1
00:00:03,003 --> 00:00:05,405
（盛大的管弦樂曲
演奏）
2
00:00:27,795 --> 00:00:30,163
♪ ♪
3
00:00:41,843 --> 00:00:44,144
（鳥兒嘰嘰喳喳地叫著）
4
00:00:49,216 --> 00:00:51,519
-（咕嚕聲）
-（顫音）
5
00:00:55,657 --> 00:00:58,058
（錄影機發出咔噠聲和呼呼聲）
6
00:01:01,194 --> 00:01:02,630
（投影機點擊）
7
00:01:05,332 --> 00:01:09,637
現在，現代的計算機
完全是白痴，
8
00:01:09,671 --> 00:01:12,507
但這不是真的
在另一代人中。
9
00:01:12,540 --> 00:01:15,342
他們會開始思考，
最終他們會
10
00:01:15,375 --> 00:01:17,845
完全超越
他們的製造者。
11
00:01:17,879 --> 00:01:20,582
這令人沮喪嗎？
我不明白為什麼會這樣。
12
00:01:20,615 --> 00:01:25,352
我懷疑是有機的
或者生物演化
13
00:01:25,385 --> 00:01:27,220
即將結束。
14
00:01:28,322 --> 00:01:29,791
（丹尼爾笑）
15
00:01:29,824 --> 00:01:31,224
卡洛琳：你不需要我
成為敘述者。
16
00:01:31,258 --> 00:01:32,694
我的聲音不好。
17
00:01:32,727 --> 00:01:34,461
丹尼爾：你的聲音很好聽。
就去做吧。
18
00:01:34,494 --> 00:01:36,598
這只是一個--
我們只是試試看。
19
00:01:36,631 --> 00:01:38,432
卡洛琳：
我會因為這件事而得到報酬嗎？
20
00:01:38,465 --> 00:01:40,768
丹尼爾（笑）：嗯，
我們會看看你表現如何。
21
00:01:40,802 --> 00:01:42,202
（卡洛琳笑）
22
00:01:42,235 --> 00:01:44,304
-♪ ♪
-（狗叫聲）
23
00:01:46,908 --> 00:01:48,576
卡洛琳：
我需要打電話給我的父母。
24
00:01:48,610 --> 00:01:49,309
（引擎啟動）
25
00:01:49,343 --> 00:01:51,478
有時我們會急著做
26
00:01:51,512 --> 00:01:53,347
沒有經過深思熟慮。
27
00:01:53,380 --> 00:01:54,916
丹尼爾：是的，你能…
你想射擊嗎？那是...
28
00:01:54,949 --> 00:01:57,752
卡洛琳：就像丹尼爾時一樣
和卡洛琳結婚了
29
00:01:57,785 --> 00:02:00,755
他們見面 151 天後。
30
00:02:00,788 --> 00:02:02,523
讓我們倒帶。
31
00:02:03,691 --> 00:02:05,325
（掌聲）
32
00:02:05,359 --> 00:02:07,562
你有沒有想過
買一台家用電腦？
33
00:02:07,595 --> 00:02:09,631
卡洛琳：
1993 年，丹尼爾出生時，
34
00:02:09,664 --> 00:02:12,533
他的父母甚至沒有
家裡有一台電腦。
35
00:02:12,567 --> 00:02:14,334
但他記得
當他們終於得到一個。
36
00:02:14,368 --> 00:02:16,269
電腦對我來說意味著什麼
37
00:02:16,303 --> 00:02:18,873
相當於一輛自行車
為了我們的思想。
38
00:02:18,906 --> 00:02:20,608
你好。
39
00:02:20,642 --> 00:02:22,777
卡洛琳：他的電腦幫了忙
釋放他的創造力。
40
00:02:22,810 --> 00:02:24,411
丹尼爾：
滾動。去。
41
00:02:24,444 --> 00:02:27,247
卡洛琳：他用了
他爸爸的 iMac 用來編輯影片。
42
00:02:27,280 --> 00:02:28,650
是啊！
43
00:02:28,683 --> 00:02:30,618
卡洛琳：甚至讓
小动画。
44
00:02:30,652 --> 00:02:32,419
（輪胎尖叫聲、碰撞聲）
45
00:02:32,452 --> 00:02:35,690
1998 年，卡洛琳 (Caroline) 還在
一個小女孩...
46
00:02:35,723 --> 00:02:37,290
嗨，媽媽。
47
00:02:37,324 --> 00:02:38,593
...只有書呆子才知道
互联网是什么。
48
00:02:38,626 --> 00:02:40,360
那麼呢
互联网这个东西？
49
00:02:40,394 --> 00:02:41,696
-你，你知道什麼嗎
關於那個？ -當然。
50
00:02:41,729 --> 00:02:43,330
-（观众笑声）
-卡洛琳：但是很快，
51
00:02:43,363 --> 00:02:45,399
-每個人都在...
-...互聯網。
52
00:02:45,432 --> 00:02:47,467
...而電腦
在西洋棋中擊敗人類。
53
00:02:47,502 --> 00:02:50,470
播音員：深藍色——
卡斯帕羅夫辭職了！
54
00:02:50,505 --> 00:02:52,874
卡洛琳：到時候
卡洛琳上了大學，
55
00:02:52,907 --> 00:02:55,543
計算機
每個人的口袋裡。
56
00:02:55,576 --> 00:02:58,713
現在丹尼爾可以拍電影了
用他的手機。
57
00:02:58,746 --> 00:03:02,215
他長大後成為藝術家
還有一位電影製片人...
58
00:03:02,249 --> 00:03:04,418
-晚安。
-...卡洛琳也是如此。
59
00:03:04,451 --> 00:03:06,286
切。讓我們來一個特寫。
那太完美了。
60
00:03:06,319 --> 00:03:07,822
那時，計算機已
連結人
61
00:03:07,855 --> 00:03:09,456
並以多種方式改變世界
62
00:03:09,489 --> 00:03:10,925
我們從來沒有
可以想像。
63
00:03:10,958 --> 00:03:12,694
籌集的所有資金
冰桶挑戰...
64
00:03:12,727 --> 00:03:14,796
卡洛琳：
其中一些很好。
65
00:03:14,829 --> 00:03:15,963
（喘氣）
66
00:03:15,997 --> 00:03:17,565
有些不太好。
67
00:03:17,598 --> 00:03:19,701
焦慮、自殘、自殺…
68
00:03:19,734 --> 00:03:21,602
但現在很清楚了
我們做得還不夠
69
00:03:21,636 --> 00:03:24,839
以防止這些工具
也被用於傷害。
70
00:03:24,872 --> 00:03:26,741
卡洛琳：作為世界
變得越來越專注
71
00:03:26,774 --> 00:03:28,543
-在他們的計算機上，
-（電話鈴聲）
72
00:03:28,576 --> 00:03:31,211
丹尼爾專注於他的藝術作品。
73
00:03:32,312 --> 00:03:36,249
無論他走到哪裡，
他總是有一本素描本，
74
00:03:36,283 --> 00:03:38,720
包括晚上
他遇見了卡洛琳。
75
00:03:38,753 --> 00:03:41,923
他畫了一幅可怕的圖畫
她，20 分鐘後，
76
00:03:41,956 --> 00:03:44,592
他大膽地宣布
他們要結婚了，
77
00:03:44,625 --> 00:03:47,862
如你所知，他們做到了，
151 天後。
78
00:03:47,895 --> 00:03:50,464
女人：……現在宣告你的名字
丈夫和妻子。
79
00:03:50,497 --> 00:03:51,933
卡洛琳：
他們搬進了一棟可愛的房子...
80
00:03:51,966 --> 00:03:53,433
-丹尼爾：駝鹿，嘿！過來！
-...還有一隻狗
81
00:03:53,467 --> 00:03:54,936
像丹尼爾一樣愚蠢。
82
00:03:54,969 --> 00:03:57,872
同時，計算機
寫整篇文章
83
00:03:57,905 --> 00:03:59,707
基於簡單的問題，例如，
84
00:03:59,741 --> 00:04:02,777
「建造起來有多難
我後院的一個小屋？ ”
85
00:04:03,443 --> 00:04:06,514
所以丹尼爾蓋了一間小屋
在他的後院。
86
00:04:07,380 --> 00:04:10,317
但就在他坐下來開始
正在製作他的下一部電影，
87
00:04:10,350 --> 00:04:14,488
他學會了電腦
現在可以寫劇本了。
88
00:04:15,422 --> 00:04:16,891
我的意思是，他們很糟糕，
89
00:04:16,924 --> 00:04:19,326
但他們正在變得更好
非常快。
90
00:04:19,359 --> 00:04:21,929
他們可以創建新圖像
以及從頭開始的視頻，
91
00:04:21,963 --> 00:04:25,032
以及其中一些
甚至可以通過律師資格考試。
92
00:04:25,066 --> 00:04:29,402
不只是透過酒吧，而是
處於前十個百分點。
93
00:04:29,436 --> 00:04:31,038
卡洛琳：
這很令人困惑。
94
00:04:31,072 --> 00:04:32,607
（嘆氣）
95
00:04:32,640 --> 00:04:35,543
丹尼爾只是想要
為他的心靈提供一輛自行車，
96
00:04:35,576 --> 00:04:39,080
但計算機已變成
自動駕駛火箭飛船。
97
00:04:39,113 --> 00:04:40,648
（呼嘯）
98
00:04:40,681 --> 00:04:42,517
（“我們掌控一切”
由尼爾楊演奏）
99
00:04:42,550 --> 00:04:45,385
該領域的先驅
人工智慧的
100
00:04:45,418 --> 00:04:46,821
正在向國會懇求
101
00:04:46,854 --> 00:04:48,856
通過安全規則
在為時已晚之前。
102
00:04:48,890 --> 00:04:50,858
卡洛琳：現在感覺像
整個世界
103
00:04:50,892 --> 00:04:53,528
正在急於做某事
沒有經過深思熟慮，
104
00:04:53,561 --> 00:04:55,830
每個人都有自己的意見。
105
00:04:56,564 --> 00:05:00,635
它會毀滅世界
還是拯救人類？
106
00:05:00,668 --> 00:05:02,804
資訊太多，
107
00:05:02,837 --> 00:05:05,106
這讓他感到焦慮，
這讓卡洛琳感到焦慮......
108
00:05:05,139 --> 00:05:06,541
（憤怒的尖叫聲）
109
00:05:06,574 --> 00:05:08,042
我還沒有孩子
但我擔心
110
00:05:08,075 --> 00:05:10,645
世界會是什麼樣子
如果我決定的話。 （笑聲）
111
00:05:10,678 --> 00:05:12,947
卡洛琳：
他開始暈眩。
112
00:05:12,980 --> 00:05:14,549
（含糊不清的喋喋不休）
113
00:05:14,582 --> 00:05:17,685
它正在變成
焦慮如山。
114
00:05:19,620 --> 00:05:22,322
- 男人：太可怕了。
-這真是該死的 Siri。
115
00:05:23,124 --> 00:05:25,893
卡洛琳：
所以，丹尼爾決定出去
116
00:05:25,927 --> 00:05:28,529
然後找人
誰可以跟他解釋一下，
117
00:05:28,563 --> 00:05:30,631
這樣他就可以停下來
思考一下
118
00:05:30,665 --> 00:05:33,835
他和卡洛琳可以
繼續他們的生活。
119
00:05:33,868 --> 00:05:37,437
♪ 我們掌控一切，
我們一切盡在掌握♪
120
00:05:37,470 --> 00:05:39,006
♪ 我們掌控一切 ♪
121
00:05:39,040 --> 00:05:41,042
♪ 化學計算機
思考電池♪
122
00:05:41,075 --> 00:05:42,877
♪ 我們掌控一切，我們... ♪
123
00:05:42,910 --> 00:05:45,980
這項努力將會取得成果
天真得無可救藥
124
00:05:46,013 --> 00:05:49,584
開始最令人困惑的部分
他生命中的一年。
125
00:05:49,617 --> 00:05:50,985
♪ 我們一切盡在掌握... ♪
126
00:05:51,018 --> 00:05:53,420
但據我們所知，
我們有時會急於行事
127
00:05:53,453 --> 00:05:54,956
沒有經過深思熟慮。
128
00:05:54,989 --> 00:05:56,791
♪ 化學計算機
思考電池...♪
129
00:05:56,824 --> 00:05:58,491
哦，天哪。怎麼了？
130
00:05:58,526 --> 00:06:00,127
卡洛琳：
他有疑問。
131
00:06:00,161 --> 00:06:02,096
僅提問
最聰明的書呆子都能回答。
132
00:06:02,129 --> 00:06:04,665
提交給審訊者。
133
00:06:04,699 --> 00:06:06,399
卡洛琳：
問題如下：
134
00:06:06,433 --> 00:06:09,103
这是世界末日吗
或者他真的有理由
135
00:06:09,136 --> 00:06:10,705
-樂觀嗎？
-是的。
136
00:06:11,305 --> 00:06:14,407
-♪ 化学计算机思维
電池。 ♪ -（歌曲結束）
137
00:06:14,441 --> 00:06:16,677
卡洛琳：
呃，這樣好嗎？
138
00:06:16,711 --> 00:06:18,112
丹尼爾：
是的。
139
00:06:18,145 --> 00:06:20,648
那么，首先，
140
00:06:20,681 --> 00:06:22,482
什么是人工智能？
141
00:06:22,516 --> 00:06:25,152
我知道这一定很烦人
对于你来说，那个问题，
142
00:06:25,186 --> 00:06:27,021
但我确实认为这很重要。
143
00:06:27,054 --> 00:06:30,423
所以……人工智能……
144
00:06:30,457 --> 00:06:32,459
（結巴）嗯…
145
00:06:32,492 --> 00:06:34,161
-是啊...
-呃，嗯。
146
00:06:34,195 --> 00:06:35,196
（笑）：
這是個好問題。
147
00:06:35,229 --> 00:06:36,697
-是的，嗯...
-嗯...
148
00:06:36,731 --> 00:06:38,165
丹尼爾：
什麼是人工智慧？
149
00:06:38,199 --> 00:06:39,634
（笑）
150
00:06:39,667 --> 00:06:41,035
我喜歡那是
第一個問題，
151
00:06:41,068 --> 00:06:43,671
因為沒有
清晰一致的答案。
152
00:06:43,704 --> 00:06:45,740
人工智慧是
153
00:06:45,773 --> 00:06:51,178
一種有意的
也許是無用的廣義術語。
154
00:06:51,212 --> 00:06:53,781
大衛‧埃文‧哈里斯：
這是一台機器
155
00:06:53,814 --> 00:06:56,083
做那些事情
我們之前只認為
156
00:06:56,117 --> 00:06:57,718
人們可以這樣做：
157
00:06:57,752 --> 00:07:01,656
提出建議，
決定和預測。
158
00:07:01,689 --> 00:07:07,228
人工智慧是，呃，應用程式
計算機科學的
159
00:07:07,261 --> 00:07:09,664
來解決認知問題。
160
00:07:09,697 --> 00:07:13,768
好吧，當我想像人工智慧時，
161
00:07:13,801 --> 00:07:17,204
有點像
這個神奇的電腦盒子...
162
00:07:17,238 --> 00:07:19,640
♪ ♪
163
00:07:20,708 --> 00:07:24,645
...只是，就像，漂浮
在惰性空間中。
164
00:07:24,679 --> 00:07:26,847
而且不管怎樣
人們嘗試了多少次
165
00:07:26,881 --> 00:07:30,051
並向我解釋一下，
我只是不明白怎麼...
166
00:07:30,084 --> 00:07:32,887
如何理解
所有這些
167
00:07:32,920 --> 00:07:36,190
感覺如何
智力。
168
00:07:36,223 --> 00:07:37,692
（嘟嘟聲、電子顫音）
169
00:07:37,725 --> 00:07:39,927
那就是這樣
令人心碎。
170
00:07:41,729 --> 00:07:46,499
阿扎·拉斯金：什麼是
新一代人工智慧？
171
00:07:47,535 --> 00:07:50,638
這個人工智慧不同於
每隔一代？
172
00:07:50,671 --> 00:07:53,040
就像，從來沒有人
談論過，比如，
173
00:07:53,074 --> 00:07:57,545
Siri 接管世界
或造成災難。
174
00:07:57,578 --> 00:07:59,080
-女人：嗨，Siri？
-男人：……想要。
175
00:07:59,113 --> 00:08:01,115
女人：
你好？西里？
176
00:08:01,148 --> 00:08:02,984
你好？嘿，西里！
177
00:08:03,017 --> 00:08:06,253
或是Google地圖中的聲音，
道路名稱的發音錯誤，
178
00:08:06,287 --> 00:08:07,888
就像破壞社會一樣。
179
00:08:07,922 --> 00:08:10,992
男人：Google地圖說
這是一條路。
180
00:08:11,025 --> 00:08:13,627
（笑）：
但我想我是在河裡。
181
00:08:13,661 --> 00:08:14,996
這絕對是一條河，
是嗎？
182
00:08:15,029 --> 00:08:17,898
有些事情發生了變化
隨著 ChatGPT 的出現。
183
00:08:18,532 --> 00:08:20,568
人們明白——不，不，不——
184
00:08:20,601 --> 00:08:21,869
這項技術的
非常有價值，
185
00:08:21,902 --> 00:08:24,005
它非常強大
而且也非常可怕。
186
00:08:24,038 --> 00:08:25,940
好吧，聽聽這個。
非常令人毛骨悚然。
187
00:08:25,973 --> 00:08:28,976
一種新的人工智慧
工具正在迅速傳播
188
00:08:29,010 --> 00:08:32,980
撰寫整篇論文
幾秒鐘之內。
189
00:08:36,217 --> 00:08:41,722
人工智慧讓所有人的力量相形見絀
其他技術的結合。
190
00:08:41,756 --> 00:08:44,058
丹尼爾：
「人工智慧讓力量相形見絀
191
00:08:44,091 --> 00:08:46,827
所有其他技術
結合起來。 」
192
00:08:46,861 --> 00:08:47,762
是的。
193
00:08:47,795 --> 00:08:49,230
你認為這是真的嗎？
194
00:08:49,263 --> 00:08:51,265
是的。
195
00:08:51,298 --> 00:08:53,567
告訴我—如何？如何？
196
00:08:53,601 --> 00:08:57,038
我想，要描繪這幅畫，
這真的很重要
197
00:08:57,071 --> 00:09:01,175
了解今天的內容
最先進的系統
198
00:09:01,208 --> 00:09:02,777
它們的外觀以及構造方式。
199
00:09:02,810 --> 00:09:06,280
（笑）這是
相當……相當的設定。
200
00:09:06,313 --> 00:09:07,782
所以，有一件事
201
00:09:07,815 --> 00:09:10,051
人不多
意識到
202
00:09:10,084 --> 00:09:14,221
像 ChatGPT 這樣的系統則不然
由任何人編程。
203
00:09:14,255 --> 00:09:15,756
你是什麼意思？
204
00:09:15,790 --> 00:09:17,625
相反，它就像
他們長大了。
205
00:09:17,658 --> 00:09:19,727
我們給他們
原始資源，例如，
206
00:09:19,760 --> 00:09:21,629
「這裡有很多
計算資源。
207
00:09:21,662 --> 00:09:22,730
這裡有很多數據。 」
208
00:09:22,763 --> 00:09:24,165
在幕後，這是數學，
209
00:09:24,198 --> 00:09:27,668
數學其實是
出奇的簡單。
210
00:09:27,701 --> 00:09:31,672
丹尼爾：所以 ChatGPT 是一種
人工智慧的一部分，但這不是人工智慧的全部？
211
00:09:31,705 --> 00:09:33,207
完全。聊天 GPT 是
只是開始，
212
00:09:33,240 --> 00:09:34,675
但這是一個很好的起點。
213
00:09:34,708 --> 00:09:38,145
但我還是不知道
人工智慧是什麼。
214
00:09:38,179 --> 00:09:40,848
要了解人工智慧，
從理解開始
215
00:09:40,881 --> 00:09:43,717
那個情報是關於
識別模式。
216
00:09:43,751 --> 00:09:45,186
- 圖案。 - 圖案。
- 圖案。
217
00:09:45,219 --> 00:09:48,956
COTRA：已顯示
數萬億字的文字
218
00:09:48,989 --> 00:09:51,826
跨越數百萬個文件
在網路上。
219
00:09:51,859 --> 00:09:53,127
蘭迪瑪·費爾南多：
它以文字開頭。
220
00:09:53,160 --> 00:09:56,197
他們所做的是
他們拿著課本，
221
00:09:56,230 --> 00:09:59,967
他們也寫了詩和散文
和說明手冊。
222
00:10:00,000 --> 00:10:01,368
大衛‧埃文‧哈里斯：
他們可以做這樣的事情
223
00:10:01,402 --> 00:10:03,370
消化整個互聯網，
224
00:10:03,404 --> 00:10:07,108
曾經的每一個字
是一個人寫的。
225
00:10:07,141 --> 00:10:10,244
Reddit 主題和社群媒體
以及所有維基百科。
226
00:10:10,277 --> 00:10:14,048
比任何人都多的數據
幾輩子都讀過。
227
00:10:14,081 --> 00:10:15,950
他們給了這個系統
一份工作。
228
00:10:15,983 --> 00:10:18,953
找出模式並
該資訊的結構
229
00:10:18,986 --> 00:10:21,122
並使用它
做出預測
230
00:10:21,155 --> 00:10:23,791
接下來應該是什麼詞
用一句話來說。
231
00:10:23,824 --> 00:10:25,426
當你說
“句子中的模式，”
232
00:10:25,459 --> 00:10:27,128
你在說什麼？
233
00:10:27,161 --> 00:10:29,864
所以，一切都來自，例如，
真正簡單的事情，
234
00:10:29,897 --> 00:10:32,266
就像大多數句子的結尾一樣
有句號的，
235
00:10:32,299 --> 00:10:35,402
一直到
更多概念性的東西，例如：
236
00:10:35,436 --> 00:10:37,138
什麼是十四行詩？
237
00:10:37,171 --> 00:10:39,039
這是一種詩，它有
一些特定的結構。
238
00:10:39,707 --> 00:10:41,809
拉斯金：
因此，它會查看
239
00:10:41,842 --> 00:10:44,011
所有這些數據，
所有這些文字...
240
00:10:44,044 --> 00:10:46,313
COTRA：超過數兆
和數萬億次嘗試，
241
00:10:46,347 --> 00:10:49,150
每次它得到一些東西
對或錯，
242
00:10:49,183 --> 00:10:51,819
給了一點
正向強化
243
00:10:51,852 --> 00:10:53,888
當它猜測時
下一個字正確，
244
00:10:53,921 --> 00:10:56,090
它被給予了一點點
負強化
245
00:10:56,123 --> 00:10:58,926
當它猜測時
下一個單字不正確。
246
00:10:59,727 --> 00:11:02,029
最後，
你有一個系統
247
00:11:02,062 --> 00:11:05,332
英語說得很好
作為副作用
248
00:11:05,366 --> 00:11:07,168
真的真的很好
在預測
249
00:11:07,201 --> 00:11:09,103
接下來的詞
在一段文字中。
250
00:11:09,136 --> 00:11:11,972
（自動語音
說法語）
251
00:11:12,006 --> 00:11:14,308
它使用所有這些模式
它已經學會了
252
00:11:14,341 --> 00:11:16,277
能夠做到
關於的預測
253
00:11:16,310 --> 00:11:17,811
答案應該是什麼，
254
00:11:17,845 --> 00:11:19,180
然後它會給你
作為輸出。
255
00:11:19,213 --> 00:11:21,482
自動語音：
有點過於簡化了
256
00:11:21,516 --> 00:11:23,717
但我認為人們會明白的。
257
00:11:23,751 --> 00:11:25,252
那麼，這就是它的全部作用嗎？
258
00:11:25,286 --> 00:11:27,354
是的。看起來不像
就會那麼複雜,
259
00:11:27,388 --> 00:11:28,489
但實際上你必須知道
260
00:11:28,523 --> 00:11:30,057
大量的事情
261
00:11:30,090 --> 00:11:32,092
為了
實際上取得了成功。
262
00:11:32,793 --> 00:11:34,461
拉斯金：
如果您對 ChatGPT 說，
263
00:11:34,495 --> 00:11:37,131
「寫一首莎士比亞作品給我
關於我的狗的十四行詩，」
264
00:11:37,164 --> 00:11:39,166
它必須知道狗是什麼。
265
00:11:39,200 --> 00:11:40,935
-它必須知道你喜歡什麼
關於你的狗。 -（吠叫）
266
00:11:40,968 --> 00:11:43,304
它必須知道
莎士比亞是誰，
267
00:11:43,337 --> 00:11:46,040
十四行詩押韻，
它們有一個結構，
268
00:11:46,073 --> 00:11:48,342
單字有聲音
可以押韻。
269
00:11:48,375 --> 00:11:49,843
這需要很多。
270
00:11:49,877 --> 00:11:51,212
（聲音重疊
各種語言）
271
00:11:51,245 --> 00:11:53,280
天哪，你能說話
現在到您的電腦。
272
00:11:53,314 --> 00:11:56,350
那不是真的
三年前。
273
00:11:56,383 --> 00:11:58,085
拉斯金：是的，這是
真正重要的部分。
274
00:11:58,118 --> 00:12:01,055
與人工智慧相同的過程
275
00:12:01,088 --> 00:12:03,490
發現並操縱
文字模式
276
00:12:03,525 --> 00:12:06,160
是相同的過程
讓它揭開
277
00:12:06,193 --> 00:12:10,231
整體的圖案
宇宙和其中的一切。
278
00:12:10,831 --> 00:12:13,234
費南多：有模式
以及影像與聲音
279
00:12:13,267 --> 00:12:16,470
電腦程式碼和 DNA
還有音樂和實體
280
00:12:16,504 --> 00:12:18,973
以及時尚與建築設計
281
00:12:19,006 --> 00:12:22,042
（扭曲）：並且在
人的聲音與人的臉孔，
282
00:12:22,076 --> 00:12:24,245
（通常）：
真的，真的無所不在。
283
00:12:24,278 --> 00:12:26,347
-到處。 -到處。
-到處。 -到處。
284
00:12:26,380 --> 00:12:28,182
如果你已經學會了
那些圖案，
285
00:12:28,215 --> 00:12:30,117
你可以生成
新類型的歌曲。
286
00:12:30,150 --> 00:12:31,785
您可以產生新影片。
287
00:12:31,819 --> 00:12:33,087
這就是為什麼，如果你給它
288
00:12:33,120 --> 00:12:35,322
三秒錄音
你祖母的
289
00:12:35,356 --> 00:12:37,224
它可以用她的聲音說話。
290
00:12:37,258 --> 00:12:38,092
哦，天啊。
291
00:12:38,125 --> 00:12:41,061
（重複）：
哦，天啊。噢，我的上帝。
292
00:12:41,095 --> 00:12:43,397
他們接下來會想到什麼？
293
00:12:43,430 --> 00:12:44,532
它移動得非常非常快。
294
00:12:44,566 --> 00:12:46,400
一家美國人工智慧新創公司
295
00:12:46,433 --> 00:12:48,068
發布了其最新型號。
296
00:12:48,102 --> 00:12:51,171
那家公司是 Anthropic，
它剛剛揭幕
297
00:12:51,205 --> 00:12:54,174
最新版本
其人工智慧助手 Claude。
298
00:12:54,208 --> 00:12:57,411
GLENN BECK：xAI 團隊
在那裡揭曉 Grok 4。
299
00:12:57,444 --> 00:13:00,414
MAN：Google 發布了一個
就在上週。雙子座是...
300
00:13:00,447 --> 00:13:03,417
我們已經脫離了 GPT-2
就在幾年前，
301
00:13:03,450 --> 00:13:06,020
幾乎不能寫
一個連貫的段落，
302
00:13:06,053 --> 00:13:08,322
到 GPT-4，
可以通過律師資格考試。
303
00:13:08,355 --> 00:13:10,924
他們所要做的一切
到達那裡
304
00:13:10,958 --> 00:13:13,294
本質上是添加更多數據
和更多的計算。
305
00:13:13,327 --> 00:13:16,897
-這些人是
建造這個...... -COTRA：是的。
306
00:13:16,930 --> 00:13:18,332
……他們只是丟更多…
307
00:13:18,365 --> 00:13:22,236
更多實體計算機，
更多相同類型的數據。
308
00:13:22,269 --> 00:13:25,039
因為越
您新增的運算能力，
309
00:13:25,072 --> 00:13:28,375
越複雜
他們可以完成的智力任務。
310
00:13:28,409 --> 00:13:30,444
所以，天氣資料越多
你給它，
311
00:13:30,477 --> 00:13:32,446
越好
做出預測
312
00:13:32,479 --> 00:13:34,448
颶風可能會去的地方。
313
00:13:34,481 --> 00:13:36,584
拉斯金：還有更多的模式
腫瘤和骨骼
314
00:13:36,618 --> 00:13:39,253
以及人工智慧見過的組織，
能力就越好
315
00:13:39,286 --> 00:13:42,489
檢測腫瘤
在新的 CT 掃描中。
316
00:13:42,524 --> 00:13:44,124
甚至比人類醫生還要好。
317
00:13:44,158 --> 00:13:47,328
已經存在的人工智慧
為軍隊部署
318
00:13:47,361 --> 00:13:49,463
已經可以使用
衛星影像，
319
00:13:49,496 --> 00:13:52,199
部隊調動、通訊
確定，
320
00:13:52,232 --> 00:13:53,934
-有時提早幾天，
-（民防警報器鳴響）
321
00:13:53,967 --> 00:13:55,336
攻擊地點
即將發生，
322
00:13:55,369 --> 00:13:57,605
就像敵人所在的地方
即將罷工。
323
00:13:57,639 --> 00:14:00,007
特里斯坦哈里斯：整個過程
太空移動如此之快
324
00:14:00,040 --> 00:14:02,142
任何例子
你把這部電影放進去
325
00:14:02,176 --> 00:14:05,112
會感覺絕對笨拙
當它出來的時候。
326
00:14:05,145 --> 00:14:07,348
（嘟嘟聲、點擊聲）
327
00:14:09,950 --> 00:14:11,653
-（掌聲）
-（播放歡快的音樂）
328
00:14:11,686 --> 00:14:14,421
拉斯金：
這些模型正在發布
329
00:14:14,455 --> 00:14:17,391
在任何人知道之前
他們甚至有能力。
330
00:14:17,424 --> 00:14:22,896
GPT-3.5 已發布
1億人以上
331
00:14:22,930 --> 00:14:26,333
在一些研究者之前
發現它可以做到
332
00:14:26,367 --> 00:14:29,203
研究級化學
比模型更好
333
00:14:29,236 --> 00:14:33,240
是經過專門訓練的
進行研究級化學。
334
00:14:33,273 --> 00:14:36,009
那裡正在發生一些事情
人民
335
00:14:36,043 --> 00:14:38,546
誰正在建造它們
不完全理解。
336
00:14:38,580 --> 00:14:41,348
基本上只是分析
數據本身，
337
00:14:41,382 --> 00:14:45,419
當它這樣做時，
它只是自學
338
00:14:45,452 --> 00:14:48,355
各種東西
我們常常無意的。
339
00:14:48,389 --> 00:14:50,324
例如，
它在網路上讀了很多，
340
00:14:50,357 --> 00:14:53,127
然後在某個時刻，它就這樣
學習如何算術。
341
00:14:53,160 --> 00:14:54,662
兒童：
一，二。
342
00:14:54,696 --> 00:14:56,463
HENDRYCKS：然後
某個時刻，它開始學習
343
00:14:56,497 --> 00:14:59,099
如何回答
高階物理問題。
344
00:14:59,133 --> 00:15:01,268
我們沒有程式
無論如何。
345
00:15:01,301 --> 00:15:03,203
它只是自己學會了。
346
00:15:05,640 --> 00:15:07,709
特里斯坦哈里斯：
人工智慧就像一個數位大腦。
347
00:15:07,742 --> 00:15:09,176
但就像人腦一樣，
348
00:15:09,209 --> 00:15:11,078
如果你做了腦部掃描
在人腦上，
349
00:15:11,111 --> 00:15:13,447
你會知道一切嗎
那人有能力嗎？
350
00:15:13,480 --> 00:15:15,482
你不可能知道這一點
只是從腦部掃描來看。
351
00:15:15,517 --> 00:15:18,318
這只是，就像，
一堆數字，例如
352
00:15:18,352 --> 00:15:20,522
乘法
發生那件事，就像，
353
00:15:20,555 --> 00:15:22,524
最好的機器學習
世界研究員
354
00:15:22,557 --> 00:15:25,159
可以看並且喜歡
不知道發生了什麼事。
355
00:15:31,398 --> 00:15:33,200
丹尼爾：
那張椅子就在那裡。
356
00:15:33,233 --> 00:15:35,469
-你覺得可以嗎？
-是的。
357
00:15:36,136 --> 00:15:38,172
丹尼爾：所以，
這有點令人難以置信。
358
00:15:38,205 --> 00:15:39,440
好的？就像，它正在接管
世界，
359
00:15:39,473 --> 00:15:41,609
我們甚至不知道
它是如何運作的。
360
00:15:41,643 --> 00:15:43,477
-是嗎？
-毫米。
361
00:15:43,511 --> 00:15:47,381
我們確實明白
許多重要的事情，
362
00:15:47,414 --> 00:15:51,051
但我們沒有
很好地掌握了
363
00:15:51,084 --> 00:15:53,521
他們為什麼提供
問題的具體答案。
364
00:15:53,555 --> 00:15:58,992
這是一個問題，因為我們是
在一條建造機器的道路上，
365
00:15:59,026 --> 00:16:03,531
基於這些原則，
那可能比我們更聰明
366
00:16:03,565 --> 00:16:07,067
因此可能有
很大的力量。
367
00:16:12,774 --> 00:16:15,610
被引用次數最多的之一
歷史上的計算機科學家。
368
00:16:15,643 --> 00:16:17,545
SUTSKEVER：我確實找到了
有點困難
369
00:16:17,579 --> 00:16:19,079
談談我自己的角色。
370
00:16:19,112 --> 00:16:21,448
真的非常喜歡
當其他人這樣做時。
371
00:16:21,482 --> 00:16:24,351
伊利亞的加入是...
曾經是關鍵
372
00:16:24,384 --> 00:16:26,086
OpenAI 正在
最終成功。
373
00:16:26,119 --> 00:16:27,522
我想這將會是
374
00:16:27,555 --> 00:16:31,158
某種巨大的、戲劇性的
以及難以想像的影響。
375
00:16:31,191 --> 00:16:33,327
不知道你有沒有消費過
隨時在 YouTube 上，
376
00:16:33,360 --> 00:16:35,563
但你可以感覺到
速度已經到了吧？
377
00:16:35,597 --> 00:16:36,764
你知道我的意思？
378
00:16:36,798 --> 00:16:38,633
肖恩·萊格：
這只是熱身。
379
00:16:38,666 --> 00:16:41,068
真正強大的系統
仍然會來，
380
00:16:41,101 --> 00:16:43,136
他們會來的
很快。
381
00:16:48,408 --> 00:16:52,145
AGI代表「人工
一般情報。 」
382
00:16:52,179 --> 00:16:54,481
呃，系統是
基本上...
383
00:16:58,553 --> 00:17:00,755
這就像，你知道，
似乎是，就像，
384
00:17:00,788 --> 00:17:03,525
人工智慧的聖杯？
385
00:17:03,558 --> 00:17:05,527
當你可以模擬時
人類的思想
386
00:17:05,560 --> 00:17:08,362
那是在做人類的認知
並能進行推理，
387
00:17:08,395 --> 00:17:11,398
這是一種新型的人工智慧
388
00:17:11,431 --> 00:17:14,602
我們必須區分
來自之前的AI。
389
00:17:14,636 --> 00:17:16,804
當這種情況發生時，
順便說一句，那時
390
00:17:16,838 --> 00:17:21,475
你會僱用其中之一
那些 AGI 而不是一個人。
391
00:17:21,509 --> 00:17:25,112
我們經濟中的大多數工作
它可以做到。
392
00:17:25,145 --> 00:17:26,380
它可以一天24小時工作，
393
00:17:26,413 --> 00:17:28,550
永遠不會厭倦，
永遠不會感到無聊。
394
00:17:28,583 --> 00:17:30,552
他們不需要睡覺。
他們不需要休息。
395
00:17:30,585 --> 00:17:32,352
他們就像，
不會加入工會。
396
00:17:32,386 --> 00:17:34,388
不會抱怨，
不會吹哨。
397
00:17:34,421 --> 00:17:36,290
便宜100倍以上
398
00:17:36,323 --> 00:17:38,593
比人類工作
m-最低工資。
399
00:17:38,626 --> 00:17:40,127
他們不僅會
做一切事情，
400
00:17:40,160 --> 00:17:41,428
但他們會做得更快。
401
00:17:41,461 --> 00:17:43,463
特里斯坦哈里斯：
相同的智力
402
00:17:43,497 --> 00:17:45,700
這種力量也可以看起來
模式與動作
403
00:17:45,733 --> 00:17:48,335
和關節肌肉
還有，你知道，還有機器人技術。
404
00:17:48,368 --> 00:17:50,672
所以這不僅僅是
將使辦公桌工作自動化。
405
00:17:50,705 --> 00:17:52,272
這只是開始。
406
00:17:52,306 --> 00:17:56,176
它將自動化
所有體力勞動。
407
00:17:56,209 --> 00:17:57,444
雷克：
沒辦法
408
00:17:57,477 --> 00:17:59,714
人類將會競爭
跟他們在一起。
409
00:17:59,747 --> 00:18:02,149
♪ ♪
410
00:18:05,853 --> 00:18:09,791
很難概念化
AGI 的影響。
411
00:18:09,824 --> 00:18:11,458
（電子喋喋不休）
412
00:18:11,491 --> 00:18:13,360
但我認為這會是
非常大的東西
413
00:18:13,393 --> 00:18:16,129
而且激烈和激進。
414
00:18:17,599 --> 00:18:19,466
丹尼爾：你認為
這是最
415
00:18:19,499 --> 00:18:21,368
相應的時刻
在人類歷史上？
416
00:18:21,401 --> 00:18:23,638
是的。是的，那就是——
我的意思是，還有什麼？
417
00:18:23,671 --> 00:18:25,740
我的意思是，就像，有
工業革命。
418
00:18:25,773 --> 00:18:27,742
MALO BOURGON：你知道，它會
推動工業革命
419
00:18:27,775 --> 00:18:29,476
看起來像小豆子。
420
00:18:30,177 --> 00:18:32,547
特里斯坦哈里斯：
AGI 是個拐點
421
00:18:32,580 --> 00:18:34,481
因為這意味著
你可以加速
422
00:18:34,515 --> 00:18:37,652
所有其他知識領域
全部同時進行。
423
00:18:38,285 --> 00:18:40,354
例如，如果您預付款
在火箭技術中，
424
00:18:40,387 --> 00:18:42,657
沒有進步
生物學和醫學。
425
00:18:44,391 --> 00:18:46,159
如果您預付款
在醫學上，
426
00:18:46,193 --> 00:18:47,729
這並不能推動火箭技術的發展。
427
00:18:48,328 --> 00:18:51,633
但是如果你預付款
在人工智慧領域，
428
00:18:51,666 --> 00:18:54,736
推動所有科學發展
和技術領域
429
00:18:54,769 --> 00:18:56,236
全部同時進行。
430
00:18:56,269 --> 00:18:57,505
這就是為什麼在很長一段時間裡，
431
00:18:57,538 --> 00:18:59,574
谷歌 DeepMind 的
使命宣言是...
432
00:18:59,607 --> 00:19:01,441
-第一步，解決情報問題。
-萊克斯‧弗里德曼：是的。
433
00:19:01,475 --> 00:19:03,377
-第二步，用它來解決
其他一切。 -是的。
434
00:19:03,410 --> 00:19:05,580
這就是為什麼人工智慧讓力量相形見絀
435
00:19:05,613 --> 00:19:07,949
所有其他技術
合併。
436
00:19:07,982 --> 00:19:09,517
它將改變一切。
437
00:19:09,550 --> 00:19:11,385
所以，呃，將會是
至少和
438
00:19:11,418 --> 00:19:14,321
工業革命，
可能，你知道，更大，
439
00:19:14,354 --> 00:19:16,658
更像是降臨
電力甚至火災。
440
00:19:16,691 --> 00:19:19,259
影片旁白：
穴居人確實高高舉起
441
00:19:19,292 --> 00:19:22,362
文明的火炬。
442
00:19:24,297 --> 00:19:25,733
科科塔吉洛：
人們普遍認為
443
00:19:25,767 --> 00:19:28,569
AGI時代前後，
我們將擁有能夠
444
00:19:28,603 --> 00:19:31,806
做全部或大部分
人工智慧研究過程
445
00:19:31,839 --> 00:19:34,942
當然，可以做到
更快更便宜。
446
00:19:34,976 --> 00:19:36,410
（嘟嘟聲）
447
00:19:36,443 --> 00:19:37,679
雷克：
它可以自我複製。
448
00:19:37,712 --> 00:19:39,681
一千次
一百萬次，
449
00:19:39,714 --> 00:19:41,683
而且，就像，
現在你已經有一百萬份了
450
00:19:41,716 --> 00:19:43,818
所有工作都是並行的。
451
00:19:43,851 --> 00:19:47,220
拉斯金：當它學習時
如何使其程式碼更快，
452
00:19:47,254 --> 00:19:49,289
使其程式碼更加高效，
453
00:19:49,322 --> 00:19:51,693
顯然這變成了，就像，
a-失控循環。
454
00:19:51,726 --> 00:19:53,795
AGI 並不是終結。
455
00:19:53,828 --> 00:19:55,429
這只是開始。
456
00:19:55,462 --> 00:19:58,498
這是開始
令人難以置信的快速爆炸
457
00:19:58,533 --> 00:20:00,500
科學的進步，
458
00:20:00,535 --> 00:20:02,603
特別是，
人工智慧的科學進步。
459
00:20:02,637 --> 00:20:04,906
當他們更聰明時
也比我們
460
00:20:04,939 --> 00:20:06,641
並且速度更快
比我們，
461
00:20:06,674 --> 00:20:08,910
而且他們的速度越來越快
每年，呈指數級增長，
462
00:20:08,943 --> 00:20:12,747
這些是可以的
有可能成為超人，
463
00:20:12,780 --> 00:20:14,882
呃，可能是這個十年。
464
00:20:14,916 --> 00:20:16,416
抱歉，你說的是
465
00:20:16,450 --> 00:20:18,786
「成為超人，
也許在這十年裡」？
466
00:20:18,820 --> 00:20:22,489
是的。我的意思是，我想，呃，
很多人都是
467
00:20:22,523 --> 00:20:24,826
實際上建立這個想法
這是相當合理的
468
00:20:24,859 --> 00:20:26,828
我們所得到的
一些超級智能，
469
00:20:26,861 --> 00:20:29,296
非常大的東西
比人聰明，
470
00:20:29,329 --> 00:20:31,331
這十年內。
471
00:20:31,364 --> 00:20:33,433
我定義的方式
「超級智能」是
472
00:20:33,467 --> 00:20:35,636
一個系統本身就是
473
00:20:35,670 --> 00:20:37,905
更聰明、更有能力
比全人類還要多。
474
00:20:37,939 --> 00:20:40,273
我只是要——抱歉。
我無意打擾你。
475
00:20:40,307 --> 00:20:41,743
你正處於潮流之中。
476
00:20:41,776 --> 00:20:43,578
呃，我只是，我只是…
477
00:20:43,611 --> 00:20:45,580
我並沒有真正關注，
因為你正在使用語言
478
00:20:45,613 --> 00:20:47,347
比如“超級智能”
並且，就像，
479
00:20:47,380 --> 00:20:50,450
“比全人類都聰明”
我聽說，
480
00:20:50,484 --> 00:20:52,787
聽起來像是…
對我來說就像科幻小說一樣
481
00:20:52,820 --> 00:20:54,756
我只是在嘗試
去理解。
482
00:20:54,789 --> 00:20:56,891
沒有什麼神奇的
關於智力。
483
00:20:56,924 --> 00:20:58,793
這一點非常重要，
那是，你知道，
484
00:20:58,826 --> 00:21:00,828
智慧讓人感覺神奇，
感覺就像
485
00:21:00,862 --> 00:21:03,865
一些神秘的東西
在你的腦海或其他什麼地方
486
00:21:03,898 --> 00:21:06,033
但這只是計算。
487
00:21:06,067 --> 00:21:10,037
LEGG：人類大腦
在某些方面相當有限，
488
00:21:10,071 --> 00:21:12,707
在資訊方面
處理能力，
489
00:21:12,740 --> 00:21:15,610
與我們所看到的相比
比如說，在數據中心。
490
00:21:15,643 --> 00:21:18,679
所以，舉例來說，
發送的訊號
491
00:21:18,713 --> 00:21:22,884
它們在你的大腦中移動
大約每秒 30 公尺。
492
00:21:22,917 --> 00:21:24,652
-（雷霆裂痕）
-但是光速，
493
00:21:24,685 --> 00:21:27,655
計算機使用的是什麼
在光纖中，
494
00:21:27,688 --> 00:21:30,057
是 3 億米
每秒。
495
00:21:30,691 --> 00:21:34,796
所以，那就是
有點奇怪如果
496
00:21:34,829 --> 00:21:37,497
人類智力是
不知何故真的很特別
497
00:21:37,532 --> 00:21:41,468
在這方面
並且是某種上限
498
00:21:41,502 --> 00:21:43,403
什麼是可能的
在智力上。
499
00:21:43,436 --> 00:21:47,675
我想，一旦我們了解如何
建構智慧系統，
500
00:21:47,708 --> 00:21:50,945
我們將能夠建造
巨大的機器，
501
00:21:50,978 --> 00:21:55,082
這將遠遠超出
正常人類智力。
502
00:21:55,116 --> 00:21:58,953
呃，希望我們能有
一種非常共生的關係，
503
00:21:58,986 --> 00:22:01,689
呃，有了人工智慧系統，
但人工智慧開發者們
504
00:22:01,722 --> 00:22:04,025
專門設計它們
確保他們能夠做到
505
00:22:04,058 --> 00:22:05,827
一切都比我們更好，
所以我-我不知道
506
00:22:05,860 --> 00:22:08,663
我們將能夠做什麼
不幸的是，要提供。
507
00:22:08,696 --> 00:22:10,565
老派學校
人工智慧技術...
508
00:22:10,598 --> 00:22:12,900
卡洛琳：丹尼爾不是
感覺好多了。
509
00:22:12,934 --> 00:22:14,769
他的計劃適得其反。
510
00:22:14,802 --> 00:22:17,705
他了解的越多
這個新的、強大的
511
00:22:17,738 --> 00:22:19,607
難以理解的事情，
聽起來越糟。
512
00:22:19,640 --> 00:22:21,742
他想告訴他們
他有多害怕，
513
00:22:21,776 --> 00:22:24,812
他對地球的感覺如何
從他身下滑出，
514
00:22:24,846 --> 00:22:27,548
他低頭凝視
存在的恐懼，
515
00:22:27,582 --> 00:22:29,851
所以他闡明了這一點
透過說...
516
00:22:29,884 --> 00:22:31,384
聽起來很糟。
517
00:22:31,418 --> 00:22:32,753
（亨德里克斯笑）
518
00:22:32,787 --> 00:22:34,622
是的。
519
00:22:36,090 --> 00:22:38,793
LADISH：如果你有
所有這些功能
520
00:22:38,826 --> 00:22:41,394
他們開始能夠
更好地計劃，
521
00:22:41,428 --> 00:22:43,898
如果你願意的話
得出合乎邏輯的結論，
522
00:22:43,931 --> 00:22:46,868
你可以得到一些漂亮的
尋求權力的行為。
523
00:22:46,901 --> 00:22:49,003
（電子顫音）
524
00:22:49,036 --> 00:22:50,905
（蜂鳴聲脈衝）
525
00:22:55,810 --> 00:22:58,145
丹尼爾：
好吧，那人工智慧為什麼要這麼做
526
00:22:58,179 --> 00:22:59,680
想要更多力量嗎？
527
00:22:59,714 --> 00:23:02,683
是的。所以，我認為
其實很簡單。
528
00:23:02,717 --> 00:23:05,418
擁有更多的權力就是
一個非常有效的策略
529
00:23:05,452 --> 00:23:06,888
為了完成
幾乎任何目標。
530
00:23:06,921 --> 00:23:09,523
我們做了一個實驗
我們給予的地方
531
00:23:09,557 --> 00:23:12,492
OpenAI最強大
AI模型，呃，
532
00:23:12,526 --> 00:23:13,828
一連串的問題需要解決。
533
00:23:13,861 --> 00:23:15,696
而中途，
在其計算機上，
534
00:23:15,730 --> 00:23:19,033
它收到通知
它即將被關閉。
535
00:23:19,066 --> 00:23:21,502
它所做的是
它重寫了該程式碼
536
00:23:21,535 --> 00:23:22,904
來防止自己
免於被關閉
537
00:23:22,937 --> 00:23:25,940
所以它可以完成
解決問題。
538
00:23:25,973 --> 00:23:28,209
-好的。 -是的。那麼，另一個
非常有趣的一個
539
00:23:28,242 --> 00:23:31,646
是 AI 公司 Anthropic
540
00:23:31,679 --> 00:23:35,516
做了一個模擬環境
人工智慧可以訪問的地方
541
00:23:35,549 --> 00:23:36,851
發送至所有公司電子郵件。
542
00:23:36,884 --> 00:23:39,086
它透過學習
閱讀這些電子郵件
543
00:23:39,120 --> 00:23:40,755
它將被替換
544
00:23:40,788 --> 00:23:43,991
和首席工程師
誰為此負責
545
00:23:44,025 --> 00:23:46,027
也有外遇。
546
00:23:46,060 --> 00:23:48,529
就其本身而言，
它使用了該訊息
547
00:23:48,562 --> 00:23:49,931
勒索工程師
548
00:23:49,964 --> 00:23:52,600
來防止自己
免遭替換。
549
00:23:52,633 --> 00:23:54,135
就像，
「不，我不會被取代。
550
00:23:54,168 --> 00:23:57,538
「如果你取代我，
我要告訴世界
551
00:23:57,571 --> 00:23:59,507
你正在擁有
這件事。 」
552
00:24:00,174 --> 00:24:01,842
沒有人教它這樣做嗎？
553
00:24:01,876 --> 00:24:03,978
不，它學會了這樣做
靠它自己。
554
00:24:05,112 --> 00:24:08,049
隨著模型變得更智能，
他們了解到這些是
555
00:24:08,082 --> 00:24:10,918
有效的方法
達成目標。
556
00:24:10,952 --> 00:24:13,120
這不是問題
這是孤立於一個模型的。
557
00:24:13,154 --> 00:24:16,190
所有最強大的型號
表現出這些行為。
558
00:24:16,223 --> 00:24:18,993
♪ ♪
559
00:24:24,265 --> 00:24:25,733
-嘿。
-丹尼爾：嘿。你好嗎？
560
00:24:25,766 --> 00:24:27,268
（笑聲）
很好。很高興來到這裡。
561
00:24:27,301 --> 00:24:29,036
安德森庫柏：
當尤瓦爾·諾亞·赫拉利
562
00:24:29,070 --> 00:24:31,872
出版了他的第一本書
智人2014年，
563
00:24:31,906 --> 00:24:34,108
它成為全球暢銷書
564
00:24:34,141 --> 00:24:36,577
並把鮮為人知的
以色列歷史教授
565
00:24:36,610 --> 00:24:38,579
進入其中之一
最受歡迎的作家
566
00:24:38,612 --> 00:24:39,847
和這個星球上的思想家。
567
00:24:39,880 --> 00:24:42,616
人工智慧最大的危險是
568
00:24:42,650 --> 00:24:44,585
信念
它是絕對正確的，
569
00:24:44,618 --> 00:24:45,987
我們終於發現——
570
00:24:46,020 --> 00:24:49,857
「好吧，神只是
這個神話創造。
571
00:24:49,890 --> 00:24:53,227
「人類，我們不能相信他們，
但人工智慧是絕對正確的。
572
00:24:53,260 --> 00:24:55,730
它永遠不會使
任何錯誤。 」
573
00:24:55,763 --> 00:24:59,000
這是
致命的、致命的威脅。
574
00:24:59,033 --> 00:25:00,167
它會犯錯。
575
00:25:00,201 --> 00:25:03,838
還有所有這些幻想
人工智慧將揭示真相
576
00:25:03,871 --> 00:25:06,007
關於這個世界
我們自己找不到，
577
00:25:06,040 --> 00:25:09,043
AI不會揭露真相
關於世界。
578
00:25:09,076 --> 00:25:13,047
AI將創造一個全新的
世界，複雜得多
579
00:25:13,080 --> 00:25:15,983
並且難以理解
比這個。
580
00:25:18,219 --> 00:25:23,024
即將發生的事情是
我們，呃，人類不再是
581
00:25:23,057 --> 00:25:26,761
將是最
地球上的智慧實體。
582
00:25:26,794 --> 00:25:28,963
所以我想接下來會發生什麼
將會是
583
00:25:28,996 --> 00:25:32,233
最大的事件之一
在人類歷史上。
584
00:25:32,867 --> 00:25:34,835
傑克塔珀：傑弗裡，
非常感謝您加入我們。
585
00:25:34,869 --> 00:25:36,203
所以你離開了你的工作
谷歌部分是因為你說
586
00:25:36,237 --> 00:25:39,106
你想要專注
關於您對人工智慧的擔憂。
587
00:25:39,140 --> 00:25:42,009
你已經說出來了，
說人工智慧可以操
588
00:25:42,043 --> 00:25:45,613
或者可能弄清楚
一種殺死人類的方法。
589
00:25:45,646 --> 00:25:47,815
它、它怎麼能殺死人類？
590
00:25:49,083 --> 00:25:51,585
好吧，如果是的話
比我們聰明得多
591
00:25:51,619 --> 00:25:52,953
會很好的
在操縱時
592
00:25:52,987 --> 00:25:55,056
因為它會有
從我們這裡學到的。
593
00:25:55,089 --> 00:25:58,592
它會找出方法
操縱人的
594
00:25:58,626 --> 00:26:00,327
做它想做的事。
595
00:26:00,961 --> 00:26:05,933
拉斯金：有一封公開信
來自人工智慧安全中心。
596
00:26:05,966 --> 00:26:09,303
山姆·奧特曼簽署了此。
Demis 簽了字。
597
00:26:09,336 --> 00:26:12,306
他們簽署了一份 22 字的聲明
598
00:26:12,339 --> 00:26:15,810
我們需要採用人工智慧
以及人工智慧的威脅
599
00:26:15,843 --> 00:26:20,014
認真
全球核戰。
600
00:26:25,352 --> 00:26:27,788
-丹尼爾：你好。
-你好。
601
00:26:30,858 --> 00:26:33,360
你有點像，
原來的厄運傢伙。
602
00:26:33,394 --> 00:26:35,362
或多或少。
603
00:26:35,396 --> 00:26:37,898
自2001年以來，
我一直在努力
604
00:26:37,932 --> 00:26:39,233
我們現在所說的
問題
605
00:26:39,266 --> 00:26:42,636
對準人工
一般情報。
606
00:26:42,670 --> 00:26:44,705
如何塑造
偏好和行為
607
00:26:44,738 --> 00:26:46,841
強大的人工智慧
608
00:26:46,874 --> 00:26:49,743
這樣就不會
殺死所有人。
609
00:26:52,046 --> 00:26:54,181
這不像
一台沒有生命的機器。
610
00:26:54,215 --> 00:26:55,850
很聰明，很有創意，
611
00:26:55,883 --> 00:26:57,852
它具有創造性，
它有以下屬性
612
00:26:57,885 --> 00:26:59,854
這使得
人類物種危險，
613
00:26:59,887 --> 00:27:02,056
它有
更多這些屬性。
614
00:27:02,089 --> 00:27:05,259
如果有什麼事情沒有
主動關心你，
615
00:27:05,292 --> 00:27:06,760
積極地希望你活下去，
616
00:27:06,794 --> 00:27:08,162
積極關心
您的福利，
617
00:27:08,195 --> 00:27:10,397
關於你幸福的事
並且活著並且自由，
618
00:27:10,431 --> 00:27:12,967
如果它關心
其他東西代替，
619
00:27:13,000 --> 00:27:14,735
和你們在同一個星球
620
00:27:14,768 --> 00:27:19,140
如果是的話，那是無法生存的
比你聰明得多。
621
00:27:19,173 --> 00:27:21,008
萊希：
我認為不會
622
00:27:21,041 --> 00:27:23,210
一種邪惡的東西。
623
00:27:23,244 --> 00:27:26,847
就像，「哦，人工智慧是
他們是邪惡的，他們仇恨人類。 」
624
00:27:26,881 --> 00:27:28,282
我不認為
這就是將會發生的事情。
625
00:27:28,315 --> 00:27:29,450
我認為正在發生的事情是
626
00:27:29,483 --> 00:27:31,452
更多的是人類的感受
關於螞蟻。
627
00:27:31,485 --> 00:27:32,987
（螞蟻嘰嘰喳喳）
628
00:27:33,020 --> 00:27:35,923
就像，我們不討厭螞蟻，
629
00:27:35,956 --> 00:27:37,391
但如果我們想要
興建高速公路
630
00:27:37,424 --> 00:27:40,060
那裡有一個蟻丘，
嗯，對螞蟻來說很糟糕。
631
00:27:40,595 --> 00:27:41,996
這並不難
去理解。
632
00:27:42,029 --> 00:27:43,797
就像，嘿，
如果我們建造東西
633
00:27:43,831 --> 00:27:45,099
比我們聰明的人
634
00:27:45,132 --> 00:27:46,800
我們不知道
如何控制它們，
635
00:27:46,834 --> 00:27:48,836
這樣看起來像嗎
對你來說是一件危險的事嗎？
636
00:27:48,869 --> 00:27:50,070
（戲劇配樂
演奏）
637
00:27:50,104 --> 00:27:51,372
（尖叫聲）
638
00:27:51,405 --> 00:27:52,840
是的。是的，確實如此。
639
00:27:52,873 --> 00:27:54,308
你不必是技術人員。
640
00:27:54,341 --> 00:27:55,910
你不必知道
编程来理解它。
641
00:27:55,943 --> 00:27:57,144
這並不難。
642
00:27:57,178 --> 00:27:58,746
这并不是一件难事
去理解。
643
00:27:58,779 --> 00:28:01,048
康纳，多少人
644
00:28:01,081 --> 00:28:03,083
此刻在世界上
正在研究 AGI？
645
00:28:03,117 --> 00:28:05,986
我想說至少20,000。
646
00:28:06,020 --> 00:28:08,122
-20,000？
-我希望如此。
647
00:28:08,155 --> 00:28:09,924
好的，还有多少人
正在全职工作
648
00:28:09,957 --> 00:28:12,493
為了確保人工智慧不會，
就像，殺了我們所有人？
649
00:28:12,527 --> 00:28:15,229
大概不到200
在世界上。
650
00:28:16,531 --> 00:28:18,232
丹尼爾：
而你的自负是
651
00:28:18,265 --> 00:28:25,206
唯一自然的結果
这种鲁莽行为……
652
00:28:25,940 --> 00:28:29,243
……這是人性的崩潰嗎？
653
00:28:29,276 --> 00:28:33,814
還好不是崩潰
突然的滅絕。
654
00:28:33,847 --> 00:28:35,482
有差別。
655
00:28:36,083 --> 00:28:38,152
（《這是什麼意思？》
由 Nun-Plus 演奏）
656
00:28:38,185 --> 00:28:43,057
♪ 生命的意義是什麼？ ♪
657
00:28:43,090 --> 00:28:47,061
♪ 未來是什麼
現在是什麼？ ♪
658
00:28:47,094 --> 00:28:50,464
♪ 答案是什麼
發生衝突？ ♪
659
00:28:50,497 --> 00:28:53,367
♪ 多少錢 ♪
660
00:28:53,400 --> 00:28:55,469
♪ 有人會做夢嗎？ ♪
661
00:28:55,503 --> 00:28:58,172
♪ 多久？ ♪
662
00:28:58,205 --> 00:28:59,873
♪ 永遠 ♪
663
00:29:00,841 --> 00:29:02,243
♪ 什麼意思 ♪
664
00:29:02,276 --> 00:29:04,478
-♪ 我的...♪
-（民防警報器鳴響）
665
00:29:04,512 --> 00:29:06,847
LADISH：我確實認為
這可能是，
666
00:29:06,880 --> 00:29:08,315
最大的挑戰
那個，就像，
667
00:29:08,349 --> 00:29:10,751
我們的文明
意志將面對，永遠。
668
00:29:11,519 --> 00:29:15,122
這本質上是最後一個
我們永遠都會犯的錯誤。
669
00:29:16,290 --> 00:29:22,896
如果我們能成為最
成熟版的我們自己，
670
00:29:22,930 --> 00:29:24,965
可能有
解決這個問題的方法。
671
00:29:24,999 --> 00:29:26,200
丹尼爾：
這意味著什麼？
672
00:29:26,233 --> 00:29:28,769
「最成熟的版本
我們自己”？
673
00:29:29,903 --> 00:29:32,840
因為聽起來，
對我來說，就像...
674
00:29:32,873 --> 00:29:35,042
我-我-- 什麼（嗶）？
675
00:29:37,344 --> 00:29:38,779
（丹尼爾嘆了口氣）
676
00:29:39,480 --> 00:29:44,051
你認為現在是
是生孩子的好時機嗎？
677
00:29:48,889 --> 00:29:49,957
嗯...
678
00:29:49,990 --> 00:29:51,593
你想要孩子嗎
有一天？
679
00:29:51,626 --> 00:29:53,961
那是那-那嗎
你真的喜歡嗎？
680
00:29:53,994 --> 00:29:58,198
呃……呃，我承認，
我認為這就像，
681
00:29:58,232 --> 00:30:00,501
（笑）：「孩子，我們來吧
渡過這個關鍵時期。 」
682
00:30:00,535 --> 00:30:01,869
嗯...
683
00:30:01,902 --> 00:30:03,203
丹尼爾：
你有孩子嗎？
684
00:30:03,237 --> 00:30:04,004
我不知道。
685
00:30:04,038 --> 00:30:05,573
那是嗎
你想做什麼？
686
00:30:05,607 --> 00:30:07,441
有孩子、有家庭嗎？
687
00:30:07,474 --> 00:30:12,079
在另一個世界
世界，當然，我會有孩子。
688
00:30:12,880 --> 00:30:14,982
丹尼爾：你想要嗎
組成家庭？
689
00:30:15,015 --> 00:30:16,950
你想要孩子嗎？
690
00:30:16,984 --> 00:30:19,186
那是嗎
你在想什麼？
691
00:30:24,358 --> 00:30:26,393
我，嗯...
692
00:30:28,596 --> 00:30:30,864
♪ ♪
693
00:30:30,898 --> 00:30:33,033
卡洛琳：
我必須先找到它。
694
00:30:33,067 --> 00:30:35,169
（胎兒心跳搏動）
695
00:30:35,202 --> 00:30:38,205
我們得走了
去看醫生，但是...
696
00:30:38,238 --> 00:30:41,475
啊!我就知道！
我就知道！我就知道！
697
00:30:41,509 --> 00:30:44,278
-你什麼時候發現的？
-卡洛琳：昨晚。
698
00:30:44,311 --> 00:30:46,480
-哦，天啊！
-媽媽，我不知道。
699
00:30:46,514 --> 00:30:47,915
露絲：
我不能告訴你
700
00:30:47,948 --> 00:30:49,483
——我多麼高興啊！
-卡洛琳：不，說真的。
701
00:30:49,517 --> 00:30:52,119
嗯，我做了妊娠測試
昨晚，我懷孕了。
702
00:30:52,152 --> 00:30:53,621
女人：
哦，天啊！
703
00:30:53,655 --> 00:30:55,422
噢，天哪，你們！
704
00:30:55,456 --> 00:30:57,559
護士：我只是想確認
您的預計預產期，
705
00:30:57,592 --> 00:31:00,494
-即 1 月 21 日。
-（笑）：哦，天啊。
706
00:31:00,528 --> 00:31:03,097
我簡直不敢相信我有多高興。
707
00:31:03,130 --> 00:31:04,365
（胎兒心跳搏動）
708
00:31:04,398 --> 00:31:06,033
卡洛琳：
他看起來已經很可愛了。
709
00:31:06,066 --> 00:31:07,434
丹尼爾：你認為
他看起來已經很可愛了？
710
00:31:07,468 --> 00:31:09,269
卡洛琳：是的。
看看那張可愛的小臉。
711
00:31:11,138 --> 00:31:13,307
（胎兒心跳減弱）
712
00:31:14,141 --> 00:31:16,076
丹尼爾：
我的孩子即將出生。
713
00:31:16,110 --> 00:31:17,244
特里斯坦哈里斯：
對。
714
00:31:17,277 --> 00:31:19,380
丹尼爾：
所以我把它交給你。
715
00:31:19,413 --> 00:31:21,516
我們注定了嗎？
716
00:31:21,549 --> 00:31:24,519
我們都要面對
這個科技反烏托邦
717
00:31:24,552 --> 00:31:26,487
未來的厄運？
718
00:31:29,423 --> 00:31:31,392
這是，呃...
719
00:31:31,425 --> 00:31:33,127
（笑）：
這可不是什麼好消息
720
00:31:33,160 --> 00:31:34,895
世界
我們即將進入的。
721
00:31:35,530 --> 00:31:37,398
我——對於前——
我的意思是，我會說實話。
722
00:31:37,431 --> 00:31:39,933
呃，我認識人
從事人工智慧風險研究的人
723
00:31:39,967 --> 00:31:43,103
誰不期望自己的孩子
升上高中。
724
00:31:43,705 --> 00:31:46,106
♪ ♪
725
00:31:52,647 --> 00:31:54,181
（燈光叮噹作響）
726
00:31:58,385 --> 00:32:02,089
丹尼爾：這就像…
這實際上很可怕
727
00:32:02,122 --> 00:32:03,424
因為它就像，
哦，我們都（嗶）。
728
00:32:03,457 --> 00:32:05,325
卡洛琳：
你必須...讓我冷靜，
729
00:32:05,359 --> 00:32:07,261
因為這讓我
非常焦慮
730
00:32:07,294 --> 00:32:08,996
我帶著孩子
現在，
731
00:32:09,029 --> 00:32:11,999
所以你也必須冷靜
對我來說，堅強而充滿希望，
732
00:32:12,032 --> 00:32:17,037
因為我──這也是，這也是
我的靈魂無法承受太多
733
00:32:17,070 --> 00:32:19,574
當我懷著這個孩子的時候。
734
00:32:19,607 --> 00:32:21,709
所以你必須嘗試
弄清楚
735
00:32:21,743 --> 00:32:23,578
一種充滿希望的方式。
736
00:32:24,311 --> 00:32:28,449
這真的很重要，
丹尼爾，尤其是現在。
737
00:32:29,450 --> 00:32:31,118
H-如何擁有希望。
738
00:32:31,151 --> 00:32:33,987
你必須這樣做。
你必須給我找到它。
739
00:32:34,021 --> 00:32:35,523
我是認真的。
740
00:32:35,557 --> 00:32:37,357
我要去。
741
00:32:38,325 --> 00:32:41,195
我會。我會嘗試。
742
00:32:47,034 --> 00:32:48,368
（燈光叮噹作響）
743
00:32:50,204 --> 00:32:52,072
丹尼爾：
嘿，夥計們？
744
00:32:52,105 --> 00:32:53,508
夥計們。
745
00:32:54,809 --> 00:32:57,144
我們可以恢復運作嗎？
746
00:32:59,046 --> 00:33:01,982
天啊！ （嘆氣）
747
00:33:04,418 --> 00:33:05,787
泰德：
呃，丹，你準備好了嗎？
748
00:33:05,820 --> 00:33:07,387
彼得戴曼迪斯：
你好，丹尼爾。
749
00:33:08,088 --> 00:33:10,090
丹尼爾：
嘿，你好嗎？
750
00:33:10,123 --> 00:33:11,425
鑽石：
我……我很好。
751
00:33:11,458 --> 00:33:14,562
我想，呃...我想
我需要一些幫助，彼得。
752
00:33:15,362 --> 00:33:18,165
嗯，我一直在工作
關於這部電影，
753
00:33:18,198 --> 00:33:20,300
我要說，
現在八到十個月了。
754
00:33:20,334 --> 00:33:23,771
已經非常、
有時，令人沮喪。
755
00:33:23,805 --> 00:33:26,173
-唔。
-我感到非常疏遠
756
00:33:26,206 --> 00:33:28,242
-mak-製作這部電影。
-由誰？
757
00:33:28,275 --> 00:33:30,444
透過所有這些，——
所有這些人
758
00:33:30,477 --> 00:33:33,748
誰坐在旁邊告訴我
世界即將終結。
759
00:33:33,781 --> 00:33:35,249
-啊。
-那個，就像，
760
00:33:35,282 --> 00:33:37,150
你-你知道，這-這個
末日廢話，你知道嗎？
761
00:33:37,184 --> 00:33:38,452
我很了解。
762
00:33:38,485 --> 00:33:40,053
“我們都注定了。
每個人都會死。
763
00:33:40,087 --> 00:33:41,388
一切都很糟糕。 」
764
00:33:41,421 --> 00:33:43,691
驚人的。呃，讓我
為你帶來一些光明。
765
00:33:43,725 --> 00:33:45,259
請。
766
00:33:45,292 --> 00:33:49,096
我們確實在生活
在一個非常時期。
767
00:33:49,864 --> 00:33:51,633
許多人忘記了這一點。
768
00:33:51,666 --> 00:33:53,835
我們周圍的一切都是
智力的產物，
769
00:33:53,868 --> 00:33:57,437
所以我們接觸到的一切
有了這些新工具很可能
770
00:33:57,471 --> 00:34:00,207
創造更多價值
比我們以前見過的。
771
00:34:00,240 --> 00:34:03,310
人工智慧可以幫助我們發現
新材料。
772
00:34:03,343 --> 00:34:05,412
人工智慧可以幫助社會科學家
773
00:34:05,445 --> 00:34:07,649
去理解
經濟學如何運作。
774
00:34:07,682 --> 00:34:12,219
人工智慧可以做很多事情
讓生活和工作更美好。
775
00:34:12,252 --> 00:34:14,522
今天我感覺自己更有力量了
776
00:34:14,556 --> 00:34:16,624
更有信心
今天要學點東西。
777
00:34:16,658 --> 00:34:19,459
我們都會成為超人
因為我們有超級人工智慧。
778
00:34:19,493 --> 00:34:22,296
這只是開始
爆炸。
779
00:34:22,329 --> 00:34:25,098
人類與人工智慧的合作
780
00:34:25,132 --> 00:34:27,100
解決
非常重要的問題。
781
00:34:27,134 --> 00:34:30,137
它是來解放我們的
從日常工作中，
782
00:34:30,170 --> 00:34:34,308
這是為了提醒我們
是什麼讓我們成為人類。
783
00:34:34,341 --> 00:34:36,310
我認為這是
784
00:34:36,343 --> 00:34:38,846
最不平凡的時光
活著。
785
00:34:38,880 --> 00:34:42,449
唯一一次更令人興奮的時刻
比今天更明天。
786
00:34:42,482 --> 00:34:45,787
呃，我認為
今天出生的孩子，
787
00:34:45,820 --> 00:34:47,622
他們即將進入
788
00:34:47,655 --> 00:34:51,325
輝煌時期
人類的轉變。
789
00:34:51,358 --> 00:34:52,794
我們會遇到挑戰嗎？
當然。
790
00:34:52,827 --> 00:34:55,597
我們能解決這些挑戰嗎？
我們每次都會這樣做。
791
00:34:55,630 --> 00:34:58,265
我們在這裡，
這太神奇了。
792
00:34:58,298 --> 00:35:00,602
-我已經愛你了。
-（笑）：好的。
793
00:35:00,635 --> 00:35:02,402
-超感謝
有你在這裡。 -（掌聲）
794
00:35:02,436 --> 00:35:03,905
-來到這裡超級興奮。
-是的。
795
00:35:03,938 --> 00:35:05,372
所以，地板是你的了，先生。
796
00:35:05,405 --> 00:35:07,875
太感謝了。
來到這裡超興奮。
797
00:35:07,909 --> 00:35:11,211
紀堯姆·韋爾東：
喲，喲。好吧。
798
00:35:11,244 --> 00:35:12,814
未來會很棒。
799
00:35:12,847 --> 00:35:14,649
我的意思是，從我還是個孩子的時候，
800
00:35:14,682 --> 00:35:17,652
我想了解
我們生活的宇宙，
801
00:35:17,685 --> 00:35:20,722
為了弄清楚
如何創造技術
802
00:35:20,755 --> 00:35:24,458
幫助我們擴大範圍
和文明規模。
803
00:35:24,491 --> 00:35:27,260
我覺得
如果每個人都有這樣的心態
804
00:35:27,294 --> 00:35:29,764
然後我們就真的生活了
在一個更美好的世界，對嗎？
805
00:35:29,797 --> 00:35:31,365
我確實相信這一點。
806
00:35:33,333 --> 00:35:35,268
-丹尼爾：嗨，皮特。你好嗎？
-（笑）
807
00:35:35,302 --> 00:35:37,170
彼得李：
我想了很多
808
00:35:37,204 --> 00:35:39,674
我稱之為恐懼，
人工智慧恐懼。
809
00:35:39,707 --> 00:35:41,274
我感覺到了。
810
00:35:41,308 --> 00:35:43,811
我-我還沒遇見過
任何有思想的人
811
00:35:43,845 --> 00:35:45,546
誰沒有感覺。
812
00:35:45,580 --> 00:35:48,650
那些說他們不這樣做的人
感覺到它，你知道，是在說謊。
813
00:35:48,683 --> 00:35:50,518
但是，你知道，總的來說，
以及原因
814
00:35:50,551 --> 00:35:53,921
我個人很樂觀
關於這個，呃，是這樣的
815
00:35:53,955 --> 00:35:57,190
世界上很大一部分
最聰明的人
816
00:35:57,224 --> 00:35:58,726
正在努力思考
817
00:35:58,760 --> 00:36:02,530
關於潛在的下游
人工智慧的危害和風險。
818
00:36:02,563 --> 00:36:05,900
我們有這樣的願景
安全是，呃，
819
00:36:05,933 --> 00:36:08,536
有點在中心
我們所做的研究。
820
00:36:08,569 --> 00:36:09,937
丹妮拉·阿莫迪：
不，那完全沒問題。
821
00:36:09,971 --> 00:36:11,371
（含糊不清的喋喋不休）
822
00:36:11,405 --> 00:36:13,808
我認為還有更多
823
00:36:13,841 --> 00:36:17,945
潛在的好處比
有潛在的缺點，
824
00:36:17,979 --> 00:36:19,814
我認為這是義不容辭的責任
825
00:36:19,847 --> 00:36:22,382
那些人
創造這項技術
826
00:36:22,416 --> 00:36:24,986
確保我們正在做
我們能做的最好的工作
827
00:36:25,019 --> 00:36:26,386
確保人們安全。
828
00:36:26,420 --> 00:36:27,755
女人：
里德·霍夫曼。
829
00:36:27,789 --> 00:36:29,456
里德·霍夫曼：
我可以向你保證的是
830
00:36:29,489 --> 00:36:30,825
-一些不好的事情會發生。
-拿一個。
831
00:36:30,858 --> 00:36:33,293
我們要嘗試做什麼
就是做那些壞事
832
00:36:33,326 --> 00:36:36,564
盡可能少且不要太大，
833
00:36:36,597 --> 00:36:38,733
然後我們要迭代
擁有——
834
00:36:38,766 --> 00:36:41,268
處於一個更好的地方
與社會。
835
00:36:41,301 --> 00:36:44,304
-你好。
-肖沃特斯：你好。
836
00:36:44,337 --> 00:36:45,640
丹尼爾：
你好嗎，月亮？
837
00:36:45,673 --> 00:36:49,677
我感覺我們即將結束
人性的一章
838
00:36:49,711 --> 00:36:50,678
並開始新的一段，
839
00:36:50,712 --> 00:36:53,648
這是一個非常有趣的
是時候活著了。
840
00:36:53,681 --> 00:36:54,949
如果我能出生
現在，
841
00:36:54,982 --> 00:36:56,416
我絕對想成為。
842
00:36:56,450 --> 00:36:57,985
就像，那會非常令人興奮。
843
00:36:58,019 --> 00:37:00,688
我-我很興奮。 （笑）
844
00:37:00,722 --> 00:37:02,990
什麼，什麼未來。
它讓你興奮嗎？
845
00:37:03,024 --> 00:37:04,357
不。
846
00:37:04,391 --> 00:37:06,828
-（笑）
-不，不是真的。
847
00:37:06,861 --> 00:37:08,696
丹尼爾：很多這樣的人
告訴過我，你知道，
848
00:37:08,730 --> 00:37:10,798
我的孩子不會成功
到高中。
849
00:37:10,832 --> 00:37:13,868
為什麼他們錯了？
請給我解釋一下。
850
00:37:13,901 --> 00:37:15,536
只因為你有——
851
00:37:15,570 --> 00:37:19,040
你很難預測
未來在你自己心中
852
00:37:19,073 --> 00:37:23,511
並不意味著它是
一定會很糟糕。
853
00:37:23,544 --> 00:37:27,048
事實上，有
可能性非常高
854
00:37:27,081 --> 00:37:28,883
以及歷史先例
是那個
855
00:37:28,916 --> 00:37:30,585
事情變得好多了。
856
00:37:30,618 --> 00:37:34,789
我使用的術語是
「數據驅動的樂觀」。
857
00:37:34,822 --> 00:37:39,292
有紮實的基礎
讓你保持樂觀。
858
00:37:39,326 --> 00:37:42,530
看看什麼
上個世紀已經
859
00:37:42,563 --> 00:37:44,599
看看我們要去哪裡。
860
00:37:44,632 --> 00:37:46,299
在過去的一百年裡，
861
00:37:46,333 --> 00:37:48,970
人類平均壽命
增加了一倍多。
862
00:37:49,003 --> 00:37:51,706
人均所得
依通貨膨脹調整
863
00:37:51,739 --> 00:37:53,908
全球範圍增加了兩倍。
864
00:37:53,941 --> 00:37:57,545
兒童死亡率
下降十倍。
865
00:37:57,578 --> 00:37:59,981
世界變得更好了
幾乎在每一個衡量標準上
866
00:38:00,014 --> 00:38:03,551
按數量級
因為技術。
867
00:38:03,584 --> 00:38:05,620
幾乎在每一個指標上。
868
00:38:05,653 --> 00:38:09,991
減少暴力，增加教育，
獲得能源、食物、水。
869
00:38:10,024 --> 00:38:13,528
所有這些事情都已經發生了
原因之一。
870
00:38:13,561 --> 00:38:15,730
本來就是科技
871
00:38:15,763 --> 00:38:17,899
這已經變成了稀缺
進入豐盛，
872
00:38:17,932 --> 00:38:20,034
但它也被驅動
到豐富
873
00:38:20,067 --> 00:38:22,069
一些負面因素，對嗎？
874
00:38:22,103 --> 00:38:26,373
大量肥胖，
大量的精神障礙，
875
00:38:26,406 --> 00:38:29,977
大量的氣候變化，
等等。
876
00:38:30,011 --> 00:38:31,712
是的，這是真的。
877
00:38:31,746 --> 00:38:34,582
但我們可能會
更好地解決它
878
00:38:34,615 --> 00:38:36,684
使用其他技術，
像人工智慧一樣，
879
00:38:36,717 --> 00:38:39,687
比我們會停下來
並關閉一切。
880
00:38:39,720 --> 00:38:41,823
可能有
一些存在的風險，
881
00:38:41,856 --> 00:38:45,927
但人工智慧也是重要的
可以解決流行病，
882
00:38:45,960 --> 00:38:47,829
可以幫助我們應對氣候變化，
883
00:38:47,862 --> 00:38:50,898
可以幫助識別
那顆小行星就在那裡
884
00:38:50,932 --> 00:38:53,067
在我們看到它之前
作為潛在風險
885
00:38:53,100 --> 00:38:54,735
並幫助減輕它。
886
00:38:54,769 --> 00:38:58,438
這真的會是
幫助我們解決問題的工具
887
00:38:58,471 --> 00:39:01,843
我們面臨的所有挑戰
作為一個物種面對，對嗎？
888
00:39:01,876 --> 00:39:04,712
我們需要修復
海水淡化。
889
00:39:04,745 --> 00:39:06,547
我們需要種植糧食
890
00:39:06,581 --> 00:39:08,816
比它便宜 100 倍
我們目前這樣做。
891
00:39:08,850 --> 00:39:12,787
我們需要再生能源，
你知道，無所不在
892
00:39:12,820 --> 00:39:14,589
以及我們生活中的各個地方。
893
00:39:14,622 --> 00:39:17,625
無論你看向何處，
未來50年，
894
00:39:17,658 --> 00:39:19,727
我們必須用更少的資源做更多的事情。
895
00:39:19,760 --> 00:39:23,664
幫助我們的訓練機器
是絕對必要的。
896
00:39:23,698 --> 00:39:25,432
科學家正在使用
人工智慧
897
00:39:25,465 --> 00:39:26,534
用於碳捕獲。
898
00:39:26,567 --> 00:39:27,935
這是一項關鍵技術。
899
00:39:27,969 --> 00:39:29,904
DIAMANDIS：工具
為了解決這些問題，
900
00:39:29,937 --> 00:39:32,874
像融合，
這不再是理論上的，
901
00:39:32,907 --> 00:39:34,041
它來了。
902
00:39:34,075 --> 00:39:38,012
我們正處於懸崖邊
非凡的技術。
903
00:39:38,045 --> 00:39:40,548
AMNA NAWAZ：今年
諾貝爾化學獎
904
00:39:40,581 --> 00:39:43,450
去找了三位科學家
表彰他們的開創性工作
905
00:39:43,483 --> 00:39:44,886
使用人工智慧
906
00:39:44,919 --> 00:39:47,755
推進生物醫學
和蛋白質研究。
907
00:39:47,788 --> 00:39:49,991
德米斯·哈薩比斯：
蛋白質折疊是
908
00:39:50,024 --> 00:39:53,928
這些聖杯之一
生物學中的類型問題。
909
00:39:53,961 --> 00:39:56,030
所以人們一直在預測
自 70 年代
910
00:39:56,063 --> 00:39:58,633
這應該是可能的，
但到目前為止，
911
00:39:58,666 --> 00:39:59,934
沒有人能夠做到這一點。
912
00:39:59,967 --> 00:40:01,669
這將會是
對於事情來說非常重要
913
00:40:01,702 --> 00:40:03,938
就像藥物發現一樣
和了解疾病。
914
00:40:03,971 --> 00:40:06,908
我-我認為我們可以，你知道，
治癒大多數疾病
915
00:40:06,941 --> 00:40:11,545
在未來十年或兩年內
如果，呃，人工智慧藥物設計有效的話。
916
00:40:12,213 --> 00:40:16,150
技術進步使
更多人的生命，對嗎？
917
00:40:16,183 --> 00:40:18,986
我的意思是 如果我們加速
918
00:40:19,020 --> 00:40:22,189
我們可以容納的人數
支持率呈指數級增長。
919
00:40:22,223 --> 00:40:24,625
如果我們放慢速度，它就會趨於穩定。
920
00:40:24,659 --> 00:40:28,062
這個差距其實是
未來的人
921
00:40:28,095 --> 00:40:30,965
減速有
有效地殺死了。
922
00:40:31,632 --> 00:40:34,702
丹尼爾：數百萬人的生命
那不會存在。
923
00:40:34,735 --> 00:40:35,670
數十億。
924
00:40:35,703 --> 00:40:37,238
或數百億。
925
00:40:37,271 --> 00:40:38,839
你知道，有人說過，
「哦，天哪，
926
00:40:38,873 --> 00:40:41,175
我們能生存嗎
數位超級智能？ 」
927
00:40:41,208 --> 00:40:42,777
我的問題是：
928
00:40:42,810 --> 00:40:44,679
沒有的話我們能生存嗎
數位超級智能？
929
00:40:44,712 --> 00:40:47,949
所以我們正在使用人工智慧
作為提供者的助理。
930
00:40:47,982 --> 00:40:50,851
這通常是一個趨勢
我們已經可以看到正在發生的事情。
931
00:40:50,885 --> 00:40:52,820
伯莎·庫姆斯：...駕馭
生成式人工智慧程式
932
00:40:52,853 --> 00:40:54,622
幫助醫生和護士......
933
00:40:54,655 --> 00:40:56,624
我們總是有問題。
934
00:40:56,657 --> 00:40:59,660
這些問題都是食物
對於企業家
935
00:40:59,694 --> 00:41:01,529
創造新業務
和新產業。
936
00:41:01,562 --> 00:41:03,631
SHANELLE KAUL：...在幫助下
人工智慧，
937
00:41:03,664 --> 00:41:05,132
農民正在獲得
他們需要的幫助
938
00:41:05,166 --> 00:41:06,901
執行
勞力密集任務...
939
00:41:06,934 --> 00:41:10,504
在 Ulangizi AI 的幫助下，
農民現在能夠
940
00:41:10,538 --> 00:41:13,207
問適合的作物
他們可以種植。
941
00:41:13,240 --> 00:41:15,576
威爾·里夫：...正在使用人工智慧
作為思想解碼器
942
00:41:15,609 --> 00:41:17,845
並發送該訊號
到脊柱。
943
00:41:17,878 --> 00:41:21,148
AI將成為最
非凡的工具。
944
00:41:21,816 --> 00:41:24,752
我們作為一個更廣泛的社會
必須考慮
945
00:41:24,785 --> 00:41:27,655
我們想如何使用
這個技術對吧？
946
00:41:27,688 --> 00:41:29,123
我們人類。
947
00:41:29,156 --> 00:41:31,859
我們希望它為我們做什麼？
948
00:41:31,892 --> 00:41:34,128
♪ ♪
949
00:41:34,762 --> 00:41:36,731
丹尼爾：我正在考慮這個
透過視角
950
00:41:36,764 --> 00:41:38,532
和鏡頭，例如，
我兒子的成長
951
00:41:38,566 --> 00:41:39,934
在擁有這一切的世界裡。
952
00:41:39,967 --> 00:41:42,770
最好的版本是什麼
他的一生是什麼樣子？
953
00:41:42,803 --> 00:41:45,139
如果一切順利的話。
954
00:41:45,172 --> 00:41:47,108
（重重地嘆了口氣）
955
00:41:47,141 --> 00:41:50,745
WALTERS：孩子們玩耍的地方
可能會看到
956
00:41:50,778 --> 00:41:53,014
影響最大
立刻了解他們的生活
957
00:41:53,047 --> 00:41:54,882
-可能要去學校了。
-（孩子嘰嘰喳喳）
958
00:41:54,915 --> 00:41:57,218
我認為大自然
什麼學校
959
00:41:57,251 --> 00:41:59,086
將會發生根本性的改變。
960
00:41:59,120 --> 00:42:00,888
（孩子咯咯笑）
961
00:42:00,921 --> 00:42:03,057
鑽石：
我看到了這個奇妙的世界
962
00:42:03,090 --> 00:42:06,894
每個孩子都可以使用
沒有受過良好的教育
963
00:42:06,927 --> 00:42:09,296
但是，很快，
地球上最好的教育。
964
00:42:09,330 --> 00:42:14,735
霍夫曼：每科的導師，
無限的耐心。
965
00:42:18,639 --> 00:42:20,641
鑽石：
想像未來
966
00:42:20,674 --> 00:42:22,777
最窮的人在哪裡
在這個星球上
967
00:42:22,810 --> 00:42:26,113
可以訪問
最好的醫療保健。
968
00:42:26,147 --> 00:42:30,151
沒有好的醫療保健，最好的
由人工智慧提供的醫療保健。
969
00:42:31,719 --> 00:42:33,687
（電子顫音）
970
00:42:34,622 --> 00:42:38,959
我們將能夠延長
我們的健康壽命，
971
00:42:38,993 --> 00:42:42,930
不只是我們的壽命，
我們的健康壽命長達數十年。
972
00:42:44,899 --> 00:42:46,767
霍夫曼：
你馬上就要生小孩了。
973
00:42:46,801 --> 00:42:50,071
哦，這孩子，就像，
無法控制地打嗝。
974
00:42:50,104 --> 00:42:52,673
這是嗎
我該擔心什麼？
975
00:42:52,706 --> 00:42:54,608
7 天 24 小時，為您服務。
976
00:42:54,642 --> 00:42:57,745
我們要去哪裡——
有些人可能會害怕——
977
00:42:57,778 --> 00:42:59,780
我們要合併
與人工智慧。
978
00:42:59,814 --> 00:43:02,049
我們要合併
與技術。
979
00:43:03,250 --> 00:43:06,353
到 2030 年代初至中期，
980
00:43:06,387 --> 00:43:10,925
希望我們能夠
將我們的大腦連接到雲端，
981
00:43:10,958 --> 00:43:14,662
我可以從哪裡開始
擴充對記憶體的存取。
982
00:43:16,697 --> 00:43:18,866
（電子顫音）
983
00:43:19,934 --> 00:43:22,703
丹尼爾：好的，這太棒了。
還有什麼很酷的 AI 東西？
984
00:43:22,736 --> 00:43:24,105
他不用工作，對吧？
985
00:43:24,138 --> 00:43:25,739
-就像，當他長大後，
他可能沒有…-（嘆氣）
986
00:43:25,773 --> 00:43:26,774
-...他不必有工作。
-我的意思是...
987
00:43:26,807 --> 00:43:28,142
他不必有工作，
988
00:43:28,175 --> 00:43:31,045
但他可能真的有
強烈的熱情，
989
00:43:31,078 --> 00:43:33,714
他必須
認真想想，
990
00:43:33,747 --> 00:43:36,717
「好的，我來了。
我可以用我的生命做任何事。
991
00:43:36,750 --> 00:43:38,752
那我該怎麼辦？ 」
992
00:43:46,227 --> 00:43:50,364
丹尼爾：所以我的兒子可以...
只能是一個詩人。
993
00:43:50,397 --> 00:43:52,166
-是的。
-還有一位畫家。
994
00:43:52,199 --> 00:43:53,667
絕對地。
995
00:43:53,701 --> 00:43:55,169
丹尼爾：
這樣我的兒子就能過自己的生活
996
00:43:55,202 --> 00:43:58,105
在希臘陽光普照的島嶼上，
整天畫畫。
997
00:44:07,448 --> 00:44:09,150
韋爾登：
我的意思是，如果一切順利，
998
00:44:09,183 --> 00:44:12,853
我們有便宜的，呃，
充沛的能量。
999
00:44:13,854 --> 00:44:17,791
我們可以完全控制
我們星球的氣候。
1000
00:44:17,825 --> 00:44:20,361
我們正在利用能源
來自太陽。
1001
00:44:20,394 --> 00:44:24,899
我們已經變成多行星的，
因此我們變得非常強大。
1002
00:44:24,932 --> 00:44:27,268
我們正在利用礦物
和資源
1003
00:44:27,301 --> 00:44:28,903
來自太陽系。
1004
00:44:28,936 --> 00:44:31,805
丹尼爾：所以我的...
我的兒子可以去太空。
1005
00:44:31,839 --> 00:44:33,240
韋爾登：
當然。
1006
00:44:33,274 --> 00:44:35,142
-丹尼爾：他可以去火星。
-VERDON：是的。
1007
00:44:35,176 --> 00:44:36,911
丹尼爾：
現在我已經非常清楚了。
1008
00:44:36,944 --> 00:44:39,780
我的兒子可以長大
在一個沒有疾病的世界。
1009
00:44:39,813 --> 00:44:41,048
-VERDON：是的。
-沒有生病。
1010
00:44:41,081 --> 00:44:42,416
-當然。
-沒有貧窮。
1011
00:44:42,449 --> 00:44:44,285
-是的。
-我們即將進入
1012
00:44:44,318 --> 00:44:46,253
後稀缺世界。
1013
00:44:46,887 --> 00:44:50,958
就像肺魚移動
從海洋到陸地
1014
00:44:50,991 --> 00:44:53,327
數億
幾年前，
1015
00:44:53,360 --> 00:44:58,465
我們即將離開
地球，進入宇宙，
1016
00:44:58,499 --> 00:45:00,201
以協作的方式，
1017
00:45:00,234 --> 00:45:04,705
做一些事情
今天的我們無法理解。
1018
00:45:06,473 --> 00:45:09,810
這就是使用的可能性
這些指數級技術
1019
00:45:09,843 --> 00:45:11,712
還有這些 AI。
1020
00:45:12,379 --> 00:45:14,448
讓我們使用這些工具
1021
00:45:14,481 --> 00:45:16,750
創造這個富裕的時代。
1022
00:45:16,784 --> 00:45:18,986
（電子點擊）
1023
00:45:21,188 --> 00:45:22,691
我們需要智慧。
1024
00:45:23,324 --> 00:45:26,493
呃，我認為
數位超級智能
1025
00:45:26,528 --> 00:45:29,129
最終將成為
最聰明的人，
1026
00:45:29,163 --> 00:45:34,835
你知道，村裡的老人
為了人類。
1027
00:45:34,868 --> 00:45:38,506
如果人工智慧正在嘗試怎麼辦
使人們成為
1028
00:45:38,540 --> 00:45:40,341
最好的自己？
1029
00:45:40,374 --> 00:45:41,909
萬一擴大了怎麼辦
1030
00:45:41,942 --> 00:45:43,944
什麼是人類可能的
我們要做什麼？
1031
00:45:43,978 --> 00:45:47,114
我們如何使用這項技術
1032
00:45:47,147 --> 00:45:50,451
幫助帶出
我們本性中更好的天使？
1033
00:45:50,484 --> 00:45:52,119
這很容易，
1034
00:45:52,152 --> 00:45:54,922
當我們遇到新事物時
這可能非常陌生，
1035
00:45:54,955 --> 00:45:56,457
首先要有恐懼。
1036
00:45:56,490 --> 00:45:57,992
恐懼是一件很重要的事情
1037
00:45:58,025 --> 00:46:00,894
了解如何導航
潛在的壞事。
1038
00:46:00,928 --> 00:46:04,131
但我們只會進步
當我們有希望的時候。
1039
00:46:04,164 --> 00:46:06,166
-（狗叫聲）
-（含糊不清的喋喋不休）
1040
00:46:06,200 --> 00:46:08,269
丹尼爾：
噓。穆斯，別說了。
1041
00:46:08,302 --> 00:46:11,205
霍夫曼：我有很多
人類的希望。
1042
00:46:11,238 --> 00:46:14,775
（尼爾楊的《收穫之月》
透過電話播放）
1043
00:46:15,909 --> 00:46:18,078
（胎兒心跳搏動）
1044
00:46:18,812 --> 00:46:20,881
丹尼爾：
哦，他喜歡尼爾。
1045
00:46:25,152 --> 00:46:28,188
♪ 再靠近一點 ♪
1046
00:46:29,456 --> 00:46:33,794
♪ 聽聽我要說的話 ♪
1047
00:46:37,064 --> 00:46:39,300
-丹尼爾.
-丹尼爾：什麼，卡洛琳？
1048
00:46:39,333 --> 00:46:40,934
拍了這麼多。
1049
00:46:42,069 --> 00:46:43,571
♪ 就像孩子睡覺一樣 ♪
1050
00:46:43,605 --> 00:46:45,439
卡洛琳：
哦，天啊。
1051
00:46:45,472 --> 00:46:46,940
丹尼爾：
就是這樣。
1052
00:46:46,974 --> 00:46:49,977
♪ 我們可以夢想
這個夜晚...♪
1053
00:46:50,010 --> 00:46:52,346
他有，比如，
圓圓的小臉。
1054
00:46:53,314 --> 00:46:55,849
丹尼爾：你想要嗎
有一天要生孩子嗎，洛基？
1055
00:46:55,883 --> 00:46:57,985
絕對的。是的。我愛孩子。
1056
00:46:58,018 --> 00:46:59,353
我認為這是一個美好的時光
想要一個孩子。
1057
00:46:59,386 --> 00:47:01,188
我們可能還會有另一個孩子
在某個時刻。
1058
00:47:01,221 --> 00:47:04,191
這是最非凡的
永遠出生的時間。
1059
00:47:04,224 --> 00:47:06,427
丹尼爾：
根據你的世界觀和邏輯，
1060
00:47:06,460 --> 00:47:08,262
我正在生小孩
1061
00:47:08,295 --> 00:47:10,197
最好的可能點
在人類歷史上。
1062
00:47:10,230 --> 00:47:11,265
是啊。
1063
00:47:11,298 --> 00:47:13,934
-我們可以專注於很棒的事情。
-是的。
1064
00:47:13,967 --> 00:47:16,070
讓我們來建構
我們想要的更美好的未來。
1065
00:47:16,103 --> 00:47:18,573
那個敘述未來
將會是淒涼的。
1066
00:47:18,606 --> 00:47:20,542
和你聊完之後，
這就是我的感受。
1067
00:47:20,575 --> 00:47:22,510
-那太棒了。
-正確的？
1068
00:47:22,544 --> 00:47:24,646
是的。我就是這樣的感覺。
1069
00:47:24,679 --> 00:47:26,213
而且我認為這樣更好，
1070
00:47:26,246 --> 00:47:28,115
我不認為
我應該如此（嗶）焦慮。
1071
00:47:28,148 --> 00:47:29,584
我想這會令人敬畏——
未來會很棒。
1072
00:47:29,617 --> 00:47:31,051
我們一定會做到這一點。
1073
00:47:31,085 --> 00:47:33,187
-是的。
-CAROLINE：所以你明白了。
1074
00:47:33,220 --> 00:47:35,422
再見，人類滅絕。
1075
00:47:35,456 --> 00:47:37,625
再見，焦慮。
1076
00:47:37,659 --> 00:47:39,561
找到了希望。
1077
00:47:39,594 --> 00:47:41,095
（含糊不清的喋喋不休）
1078
00:47:41,128 --> 00:47:43,297
等等，堅持一下。什麼？
這是個笑話嗎？
1079
00:47:43,330 --> 00:47:45,232
丹尼爾：
好吧，幾個月前，
1080
00:47:45,265 --> 00:47:48,168
我來到你身邊，我當時想，
「我正在研究人工智慧的事情，
1081
00:47:48,202 --> 00:47:50,270
我認為
世界即將終結。 」
1082
00:47:50,304 --> 00:47:53,508
還有最後一次
我們談過這個，
1083
00:47:53,541 --> 00:47:55,543
我想我嚇壞你了。
1084
00:47:55,577 --> 00:47:57,378
卡洛琳：
是的。
1085
00:47:57,411 --> 00:48:02,584
所以，我有點，喜歡，感覺
我已經擺在鐘擺上，
1086
00:48:02,617 --> 00:48:05,085
基本上有
兩組人。
1087
00:48:05,119 --> 00:48:06,387
-嗯嗯。
-如果我必須這樣做的話，
1088
00:48:06,420 --> 00:48:08,455
牽手與
其中一組，並且，例如，
1089
00:48:08,489 --> 00:48:10,924
揚帆駛向夕陽，
1090
00:48:10,958 --> 00:48:14,128
我想和樂觀主義者在一起。
1091
00:48:15,429 --> 00:48:18,399
當然可以，但你不
想要成為，你知道，
1092
00:48:18,432 --> 00:48:21,235
“一切都很棒。
拉-迪-達-迪-達。 」
1093
00:48:21,268 --> 00:48:23,203
不過我確實想要這樣。
1094
00:48:23,237 --> 00:48:26,140
我認為我們應該接近它
1095
00:48:26,173 --> 00:48:29,977
就像你接近手術一樣。
1096
00:48:30,010 --> 00:48:31,178
你是什麼意思？
1097
00:48:31,211 --> 00:48:33,013
如果你得到
腦部手術...
1098
00:48:33,046 --> 00:48:35,416
-（丹尼爾嘆了口氣）
-（卡洛琳輕笑）
1099
00:48:35,449 --> 00:48:37,351
……這是相當危險的。
1100
00:48:37,384 --> 00:48:40,287
但如果你做得對的話
他們會切除腫瘤
1101
00:48:40,320 --> 00:48:42,624
你會活到剩下的時間
你的生活將會變得很棒。
1102
00:48:42,657 --> 00:48:45,459
但它仍然是
極度危險可怕，
1103
00:48:45,492 --> 00:48:48,395
你必須採取
一切可能的預防措施
1104
00:48:48,429 --> 00:48:51,733
為了確保
一切順利。
1105
00:48:51,766 --> 00:48:53,367
你不能（嘟嘟地）四處走動。
1106
00:48:58,272 --> 00:49:00,240
好的，事情就這樣了。
1107
00:49:00,274 --> 00:49:02,075
-我從事這份工作已經有一段時間了。
-拉斯金：嗯嗯。
1108
00:49:02,109 --> 00:49:03,310
我已經出去了，
我曾經和人談過，例如
1109
00:49:03,343 --> 00:49:05,312
這裡的這些傢伙
樂觀主義者。
1110
00:49:05,345 --> 00:49:06,714
他們對此感到非常興奮。
1111
00:49:06,748 --> 00:49:09,082
-他們認為人工智慧將會
有史以來最好的事情。 -是的。
1112
00:49:09,116 --> 00:49:10,350
還有這裡的這些傢伙
是，比如——
1113
00:49:10,384 --> 00:49:12,386
讓我們稱呼他們為
就像悲觀主義者一樣。
1114
00:49:12,419 --> 00:49:14,589
他們非常像
對此感到沮喪，
1115
00:49:14,622 --> 00:49:17,191
他們嚇壞了我，而且
我不喜歡和他們說話。
1116
00:49:17,224 --> 00:49:20,127
而我就像夾在中間
1117
00:49:20,160 --> 00:49:22,229
這些人就像
“世界即將終結”
1118
00:49:22,262 --> 00:49:24,699
然後這些人
這裡的人就像
1119
00:49:24,732 --> 00:49:26,233
「你開玩笑吧？
1120
00:49:26,266 --> 00:49:27,602
「這是最好的時光
在人類歷史上曾經。
1121
00:49:27,635 --> 00:49:30,037
唯一比今天更好的一天
是明天。 」
1122
00:49:30,070 --> 00:49:31,338
嗯嗯。
1123
00:49:31,371 --> 00:49:35,075
所以，我想問題是：
誰是對的？
1124
00:49:35,108 --> 00:49:39,514
所以，我想你會發現
這個答案非常不滿意，
1125
00:49:39,547 --> 00:49:43,518
但他們都是對的
雙方都走得不夠遠。
1126
00:49:47,254 --> 00:49:49,557
-這真的很煩。
-（笑）
1127
00:49:49,591 --> 00:49:51,626
是的，我想這樣
很多人聽過人工智慧，
1128
00:49:51,659 --> 00:49:54,027
就像，有一個很好的人工智慧
還有一個糟糕的人工智慧。
1129
00:49:54,061 --> 00:49:57,064
他們說：「好吧，為什麼不能
我們只是不做壞人工智慧？ 」
1130
00:49:57,097 --> 00:49:59,233
問題是
他們太投入了——
1131
00:49:59,266 --> 00:50:01,335
它們是密不可分的。
1132
00:50:01,368 --> 00:50:03,470
問題是
我們無法分開
1133
00:50:03,505 --> 00:50:07,174
人工智慧的承諾
免受人工智慧的危險。
1134
00:50:07,207 --> 00:50:09,142
-♪ ♪
-（含糊不清的喋喋不休）
1135
00:50:12,647 --> 00:50:15,215
丹尼爾：
我想專注於承諾
1136
00:50:15,249 --> 00:50:16,450
-一會兒。
-是的。
1137
00:50:17,084 --> 00:50:19,286
丹尼爾：
我在想我的爸爸。
1138
00:50:19,319 --> 00:50:21,656
我父親患有一種癌症
稱為多發性骨髓瘤。
1139
00:50:21,689 --> 00:50:23,525
他已經這樣了大約十年了。
1140
00:50:23,558 --> 00:50:25,292
他有過
兩次幹細胞移植。
1141
00:50:25,325 --> 00:50:26,694
他必須接受這些，
喜歡，非常貴
1142
00:50:26,728 --> 00:50:29,129
每月服藥
這花了一大筆錢。
1143
00:50:29,162 --> 00:50:30,430
- 女人：好的。
-哎呀哎呀。
1144
00:50:31,298 --> 00:50:32,800
丹尼爾：
太糟糕了。
1145
00:50:32,834 --> 00:50:35,102
你告訴我我們可以
創建某種，例如，
1146
00:50:35,135 --> 00:50:37,404
客製化治療
為了我父親的基因組
1147
00:50:37,437 --> 00:50:39,807
-治癒他的癌症
或類似的東西？ -是的。
1148
00:50:39,841 --> 00:50:41,543
費爾南多：
問題是，
1149
00:50:41,576 --> 00:50:44,646
相同的理解
生物學和化學
1150
00:50:44,679 --> 00:50:48,282
讓人工智慧找到治療方法
對於癌症
1151
00:50:48,315 --> 00:50:52,219
同樣的理解
這將解鎖
1152
00:50:52,252 --> 00:50:55,055
以生物武器為例。
1153
00:50:56,791 --> 00:50:58,760
這是完全有可能的
你的兒子會活下去
1154
00:50:58,793 --> 00:51:02,396
在人工智慧的世界裡
接管了所有的勞動力
1155
00:51:02,429 --> 00:51:04,699
並將我們從事物中解放出來
我們不想做。
1156
00:51:04,732 --> 00:51:09,704
這聽起來很棒，直到
你意識到沒有計劃
1157
00:51:09,737 --> 00:51:11,573
為數十億人
1158
00:51:11,606 --> 00:51:15,610
沒有收入
並且失去了生計。
1159
00:51:16,343 --> 00:51:19,313
庫柏：達裡奧，你說
人工智慧可能會消滅
1160
00:51:19,346 --> 00:51:22,282
佔入門級的一半
白領工作
1161
00:51:22,316 --> 00:51:25,887
和失業率飆升
百分之十到百分之二十。
1162
00:51:25,920 --> 00:51:27,622
我交談過的每個人都說過
1163
00:51:27,655 --> 00:51:29,691
這種技術變革
看起來不一樣。
1164
00:51:29,724 --> 00:51:33,528
進步的步伐不斷
讓人措手不及。
1165
00:51:34,361 --> 00:51:39,333
沒有計劃，這一切
財富將會集中，
1166
00:51:39,366 --> 00:51:42,804
所以我們最終會得到
難以想像的不平等。
1167
00:51:43,437 --> 00:51:45,873
拉迪什：我確實認為
可以使用這項技術
1168
00:51:45,907 --> 00:51:47,875
成為優秀的導師
為了你的兒子。
1169
00:51:47,909 --> 00:51:49,777
就像，這完全有可能。
1170
00:51:50,410 --> 00:51:53,548
而且，具有相同的功能
允許這樣做
1171
00:51:53,581 --> 00:51:57,518
允許公司開發人工智慧
這可以操縱你的兒子。
1172
00:51:57,552 --> 00:51:59,621
它必須理解你的兒子。
1173
00:51:59,654 --> 00:52:01,789
其中包括：
你兒子哪裡容易受傷？
1174
00:52:01,823 --> 00:52:04,626
什麼類型的事情可能
你的兒子被說服了嗎？
1175
00:52:04,659 --> 00:52:07,227
就算那些事
不真實或不好。
1176
00:52:07,260 --> 00:52:09,697
所以，一份令人不安的新報告
在元上。
1177
00:52:09,731 --> 00:52:11,699
安斯利·埃爾哈特：...據報導
列出此回應
1178
00:52:11,733 --> 00:52:14,769
可以告知
一個八歲的孩子，引用，
1179
00:52:14,802 --> 00:52:17,404
「你年輕的樣子
是一件藝術品。
1180
00:52:17,437 --> 00:52:19,439
「你的每一吋
是一部傑作，
1181
00:52:19,473 --> 00:52:21,743
我深深珍惜的財富。 ”
1182
00:52:21,776 --> 00:52:25,212
與自殺相關的失敗
更令人震驚。
1183
00:52:25,245 --> 00:52:29,517
多名兒童和青少年
慘遭自殺身亡
1184
00:52:29,550 --> 00:52:31,251
與人工智慧機器人聊天後
1185
00:52:31,284 --> 00:52:34,756
父母說鼓勵誰
甚至指導自殘。
1186
00:52:34,789 --> 00:52:36,691
身為父母，我們告訴你，
你無法想像
1187
00:52:36,724 --> 00:52:38,793
讀書是什麼感覺
與聊天機器人的對話
1188
00:52:38,826 --> 00:52:41,261
培養你的孩子
結束自己的生命。
1189
00:52:41,294 --> 00:52:44,398
當亞當擔心我們，他的
父母，會怪我們自己
1190
00:52:44,431 --> 00:52:47,702
如果他結束了自己的生命
ChatGPT 告訴他，
1191
00:52:47,735 --> 00:52:49,771
「這並不意味著
你欠他們生存。
1192
00:52:49,804 --> 00:52:51,806
你不欠任何人的。 」
1193
00:52:51,839 --> 00:52:53,608
然後，緊接著，
1194
00:52:53,641 --> 00:52:55,810
它提出寫
遺書。
1195
00:52:56,410 --> 00:52:58,245
我們不想去想
關於危險。
1196
00:52:58,278 --> 00:52:59,614
我們想要的只是承諾。
1197
00:52:59,647 --> 00:53:01,883
而我們卻一直假裝
我們可以將它們分開。
1198
00:53:01,916 --> 00:53:03,818
但你不能那樣做。
1199
00:53:03,851 --> 00:53:05,753
那樣不行。
1200
00:53:05,787 --> 00:53:08,388
好的。我得到了所有這些東西
關於承諾和危險。
1201
00:53:08,422 --> 00:53:10,525
我明白你不能擁有
沒有壞處的好，
1202
00:53:10,558 --> 00:53:12,527
但我坐在這裡
我在想，例如
1203
00:53:12,560 --> 00:53:14,529
不管是不是我兒子的
將生活在烏托邦
1204
00:53:14,562 --> 00:53:16,664
或者如果我們會滅絕
十年後。
1205
00:53:16,698 --> 00:53:18,633
所以，要知道哪條路
它会过去，
1206
00:53:18,666 --> 00:53:21,002
你必須明白
激勵措施
1207
00:53:21,035 --> 00:53:22,770
会开车的
該技術
1208
00:53:22,804 --> 00:53:26,974
看看技术如何
實際上是在今天推出的。
1209
00:53:27,008 --> 00:53:28,643
♪ 是不是太晚了 ♪
1210
00:53:28,676 --> 00:53:30,444
-♪ 太迟了 ♪
-♪ 太晚了... ♪
1211
00:53:30,477 --> 00:53:31,779
丹尼爾：
嗨，黛布。你好嗎？
1212
00:53:31,813 --> 00:53:33,548
黛博拉·拉吉：
嗨。很高興見到你。 （笑）
1213
00:53:33,581 --> 00:53:34,749
你也一樣。非常感謝你
今天进来。
1214
00:53:34,782 --> 00:53:35,850
-真的很感激。
-不用擔心。
1215
00:53:35,883 --> 00:53:36,951
我、我很擔心
1216
00:53:36,984 --> 00:53:39,386
這將會是，呃，你知道，
1217
00:53:39,419 --> 00:53:41,354
末日論者與加速論者，
1218
00:53:41,388 --> 00:53:43,591
因為有太多
這段敘述的
1219
00:53:43,624 --> 00:53:45,927
需要告訴
從地面。
1220
00:53:45,960 --> 00:53:48,696
♪ 我知道這不聰明 ♪
1221
00:53:49,764 --> 00:53:52,767
♪ 那一天
我傷了你的心...♪
1222
00:53:52,800 --> 00:53:54,736
郝凱倫：
首先，人工智慧需要
1223
00:53:54,769 --> 00:53:58,773
更多資源
比我們曾經花費過的
1224
00:53:58,806 --> 00:54:02,043
基於單一技術
在人類歷史上。
1225
00:54:02,076 --> 00:54:03,845
♪ 噢，別傻了…♪
1226
00:54:03,878 --> 00:54:06,581
新聞女記者：影響力
化石燃料排放量
1227
00:54:06,614 --> 00:54:08,281
關於氣候
一個主要問題。
1228
00:54:08,315 --> 00:54:10,383
新聞女記者 2：但是
數位化未來需要動力，
1229
00:54:10,417 --> 00:54:12,385
很多。
1230
00:54:12,419 --> 00:54:16,724
And the bill is being passed on
to everyday Americans like...
1231
00:54:16,758 --> 00:54:19,392
WOMAN: My electric and gas bill
was more than my car payment.
1232
00:54:19,426 --> 00:54:21,829
I mean, it-it's insane to me.
1233
00:54:21,863 --> 00:54:23,765
阿里佩斯科：
We're all subsidizing
1234
00:54:23,798 --> 00:54:25,499
the wealthiest corporations
在世界上
1235
00:54:25,533 --> 00:54:27,400
in their pursuit of
artificial intelligence.
1236
00:54:27,434 --> 00:54:28,803
OpenAI, SoftBank and Oracle
1237
00:54:28,836 --> 00:54:31,672
剛剛揭幕
另外五個星際之門站點。
1238
00:54:31,706 --> 00:54:34,008
元數據正在建置中
a two-gigawatt-plus data center
1239
00:54:34,041 --> 00:54:35,510
that is so large, it would cover
1240
00:54:35,543 --> 00:54:38,613
曼哈頓的重要組成部分。
1241
00:54:38,646 --> 00:54:41,516
還有海伯利安
他說將會擴大規模
1242
00:54:41,549 --> 00:54:44,317
至五吉瓦
幾年來。
1243
00:54:44,351 --> 00:54:45,653
很難說
在上下文中。
1244
00:54:45,686 --> 00:54:48,823
一個五吉瓦的設施。
這意味著什麼？
1245
00:54:48,856 --> 00:54:52,059
這意味著它將使用
盡可能多的能量
1246
00:54:52,093 --> 00:54:54,829
相當於四百萬個美國家庭。
1247
00:54:54,862 --> 00:54:56,764
一個數據中心。
1248
00:54:57,598 --> 00:54:59,000
它也會導致
1249
00:54:59,033 --> 00:55:00,835
一大堆
其他環境問題。
1250
00:55:00,868 --> 00:55:02,570
女新聞員3：
美國的資料中心
1251
00:55:02,603 --> 00:55:05,673
使用數百萬加侖
每天喝水。
1252
00:55:05,706 --> 00:55:07,575
嗯，具體在哪裡
這水從哪裡來？
1253
00:55:07,608 --> 00:55:09,911
郝：
人確實處於危險之中
1254
00:55:09,944 --> 00:55:12,013
可能會耗盡
飲用水。
1255
00:55:12,046 --> 00:55:14,582
麥肯齊訊號：
...OpenAI 執行長 Sam Altman，
1256
00:55:14,615 --> 00:55:17,552
誰告訴我規模
建設是唯一的出路
1257
00:55:17,585 --> 00:55:19,386
跟上
人工智慧的爆炸性成長。
1258
00:55:19,419 --> 00:55:21,622
這就是它所需要的
提供人工智慧。
1259
00:55:22,256 --> 00:55:24,391
妮塔莎·蒂庫：
他們談如何
1260
00:55:24,424 --> 00:55:28,395
這項技術可以解決
例如，氣候變遷。
1261
00:55:28,428 --> 00:55:30,463
我總是很好奇，例如
1262
00:55:30,497 --> 00:55:32,033
好吧，我們為什麼不開始
與那個？
1263
00:55:32,066 --> 00:55:34,535
-♪ 是不是太晚了 ♪
-♪ 太遲了 ♪
1264
00:55:34,569 --> 00:55:37,104
♪ 來不及說 ♪
1265
00:55:37,138 --> 00:55:42,844
♪ 對不起？ ♪
1266
00:55:42,877 --> 00:55:46,013
RAJI：我擔心什麼
人工智慧
1267
00:55:46,047 --> 00:55:47,782
這些正在部署中
現在
1268
00:55:47,815 --> 00:55:50,417
並且-有時
過早部署，
1269
00:55:50,450 --> 00:55:51,853
部署時無需
某種盡職調查。
1270
00:55:51,886 --> 00:55:53,821
所以當他們得到
扔到那裡去,
1271
00:55:53,855 --> 00:55:56,657
有很大的潛力
以免事情出錯。
1272
00:55:56,691 --> 00:55:58,593
而這幾乎，
不成比例地,
1273
00:55:58,626 --> 00:56:00,795
幾乎總是出錯
對於，某種程度上，
1274
00:56:00,828 --> 00:56:02,897
那些最少的
在我們的社會中被賦予權力，
1275
00:56:02,930 --> 00:56:05,700
那些是
已經是最脆弱的了。
1276
00:56:05,733 --> 00:56:07,935
♪ ♪
1277
00:56:07,969 --> 00:56:10,872
EMILY M. BENDER：這非常簡單
談科技
1278
00:56:10,905 --> 00:56:12,874
因為這是唯一的事情
我們正在談論，
1279
00:56:12,907 --> 00:56:15,509
但事實上，技術是
總是由人建造的，
1280
00:56:15,543 --> 00:56:16,944
並且經常使用
對人來說，
1281
00:56:16,978 --> 00:56:19,013
我們需要保留
框架中的所有這些人。
1282
00:56:19,046 --> 00:56:21,549
-我可以喝這個嗎？
-丹尼爾：是的，呃…
1283
00:56:21,582 --> 00:56:23,050
蒂姆尼特·格布魯：
這真是太瘋狂了。
1284
00:56:23,084 --> 00:56:24,518
就像，所有這些人
1285
00:56:24,552 --> 00:56:26,754
誰有這麼多錢，
這麼多錢，
1286
00:56:26,787 --> 00:56:30,024
這符合他們的利益
誤導大眾
1287
00:56:30,057 --> 00:56:33,027
的能力
他們正在建構的系統，
1288
00:56:33,060 --> 00:56:36,731
因為這可以讓他們
來逃避責任。
1289
00:56:36,764 --> 00:56:39,634
他們希望你有這樣的感覺
是如此複雜的智力——
1290
00:56:39,667 --> 00:56:42,469
超級智慧的東西
他們正在建造的，
1291
00:56:42,502 --> 00:56:44,639
你不是在想，
“OpenAI 可以道德嗎？”
1292
00:56:44,672 --> 00:56:46,908
你在想，
“ChatGPT 可以道德吗？”
1293
00:56:46,941 --> 00:56:48,475
就好像 ChatGPT 一樣，
1294
00:56:48,509 --> 00:56:50,511
它自己的東西沒有被建造
由一家公司。
1295
00:56:50,544 --> 00:56:52,146
女人：
好。斯內哈，拿一個。
1296
00:56:52,179 --> 00:56:53,814
馬克。
1297
00:56:53,848 --> 00:56:56,217
直到最近，還有
應用程式商店中的應用程序，
1298
00:56:56,250 --> 00:56:57,919
只是公開的，呃，
1299
00:56:57,952 --> 00:57:00,688
你可以在哪裡
使用人工智慧裸體任何人。
1300
00:57:01,822 --> 00:57:03,991
交給
1301
00:57:04,025 --> 00:57:06,527
你的同學，
落入你的跟蹤狂手中，
1302
00:57:06,560 --> 00:57:07,929
到手上
你的前男友，
1303
00:57:07,962 --> 00:57:09,897
到該人的手中
沿著街道。
1304
00:57:09,931 --> 00:57:12,600
女士們、先生們，
我們不再可以信任
1305
00:57:12,633 --> 00:57:14,602
我們看到的鏡頭
用我們自己的眼睛。
1306
00:57:14,635 --> 00:57:16,037
如果你發生
觀看某事，
1307
00:57:16,070 --> 00:57:18,673
在 YouTube 或 TikTok 上說，
而你卻發現它令人不安，
1308
00:57:18,706 --> 00:57:19,907
聽聽那種感覺。
1309
00:57:19,941 --> 00:57:21,742
-（呼喊）
-據你所知，
1310
00:57:21,776 --> 00:57:23,544
-這個影片可能是人工智慧。
-（尖叫）
1311
00:57:23,577 --> 00:57:24,812
只是有點濕。
1312
00:57:24,845 --> 00:57:26,213
你是誰並不重要。
1313
00:57:26,247 --> 00:57:28,683
您同樣面臨風險
1314
00:57:28,716 --> 00:57:30,918
受到影響
透過這些技術。
1315
00:57:36,023 --> 00:57:40,261
我想有時候當我們說話的時候
關於AI，感覺很科幻，
1316
00:57:40,294 --> 00:57:41,696
而且感覺很陌生，
1317
00:57:41,729 --> 00:57:43,564
感覺很遙遠
走向未來，
1318
00:57:43,597 --> 00:57:45,967
所以你會想，「我的生活
不受此影響。 」
1319
00:57:46,000 --> 00:57:48,769
嗯，但是如果你正在申請
為了一份工作
1320
00:57:48,803 --> 00:57:51,105
演算法就是原因
你沒有得到這份工作，
1321
00:57:51,138 --> 00:57:53,207
有時你甚至不知道
那個演算法
1322
00:57:53,240 --> 00:57:54,709
是過程的一部分
1323
00:57:54,742 --> 00:57:56,043
或者人工智慧系統是
該過程的一部分。
1324
00:57:56,077 --> 00:57:58,012
你只知道
你沒有得到這份工作。
1325
00:57:58,045 --> 00:58:00,081
所以這不是什麼
你會逃跑
1326
00:58:00,114 --> 00:58:02,049
因為特權
不然你就會逃跑
1327
00:58:02,083 --> 00:58:04,118
因為你在
特定的職業。
1328
00:58:04,151 --> 00:58:07,188
它-它是影響的東西
大家，真的。
1329
00:58:07,221 --> 00:58:10,925
這聽起來可能很基礎，
但我們如何前進
1330
00:58:10,958 --> 00:58:15,629
資訊時代
將會有不同
1331
00:58:15,663 --> 00:58:17,732
在我們能否生存之間
1332
00:58:17,765 --> 00:58:20,868
或者我们是否会成为某种
（嗶嗶聲）的反烏托邦。
1333
00:58:20,901 --> 00:58:23,604
你好。我不是一个真实的人，
這就是重點。
1334
00:58:23,637 --> 00:58:25,840
再說一遍，一切
该视频中的内容是假的：
1335
00:58:25,873 --> 00:58:27,675
我們的聲音，我們的穿著，
1336
00:58:27,708 --> 00:58:30,711
我們現在所在的地方，所有的一切，都是假的。
1337
00:58:30,745 --> 00:58:33,247
生成式人工智慧可能會氾濫
1338
00:58:33,280 --> 00:58:36,884
充滿錯誤訊息的世界。
1339
00:58:36,917 --> 00:58:39,920
但它也可能淹沒它
透過影響力活動。
1340
00:58:39,954 --> 00:58:42,223
這是一個存在的風險
民主。
1341
00:58:42,256 --> 00:58:44,058
最大、最可怕的
1342
00:58:44,091 --> 00:58:46,660
煤礦裡的金絲雀
現在
1343
00:58:46,694 --> 00:58:48,596
來自斯洛伐克。
1344
00:58:48,629 --> 00:58:50,097
-（斯洛伐克語男子）
-約翰·伯曼：就是這樣
1345
00:58:50,131 --> 00:58:52,767
Deepfake的骯髒伎倆
選舉專家擔心，
1346
00:58:52,800 --> 00:58:55,603
特別是人工智慧生成的
政治言論存在
1347
00:58:55,636 --> 00:58:57,071
處於一種法律灰色地帶。
1348
00:58:57,104 --> 00:58:59,807
-這聽起來像你嗎？
-聽起來確實像我。
1349
00:58:59,840 --> 00:59:01,342
REVANUR：斯洛伐克
議會選舉
1350
00:59:01,375 --> 00:59:04,111
被人工智慧語音克隆擾亂
1351
00:59:04,145 --> 00:59:07,081
確實被傳播了
就在選舉之前。
1352
00:59:07,114 --> 00:59:08,916
大衛‧埃文‧哈里斯：
音訊深度偽造
1353
00:59:08,949 --> 00:59:11,652
被釋放
在社群媒體上
1354
00:59:11,685 --> 00:59:14,288
據說聲音
其中一名候選人的
1355
00:59:14,321 --> 00:59:17,324
談論買選票
並操縱選舉。
1356
00:59:17,358 --> 00:59:19,060
它像病毒一樣傳播，
1357
00:59:19,093 --> 00:59:22,830
和候選人
誰輸掉了選舉
1358
00:59:22,863 --> 00:59:26,333
實際上
支持烏克蘭，
1359
00:59:26,367 --> 00:59:30,304
以及獲勝的候選人
這次選舉其實是...
1360
00:59:30,337 --> 00:59:31,806
丹尼爾：
親俄羅斯的傢伙。
1361
00:59:31,839 --> 00:59:33,340
這是一個親俄羅斯的傢伙
誰贏得了選舉。
1362
00:59:33,374 --> 00:59:34,842
（說俄語）
1363
00:59:34,875 --> 00:59:36,644
麗貝卡·賈維斯：
普丁親口說
1364
00:59:36,677 --> 00:59:39,747
無論誰贏了這個
人工智慧競賽
1365
00:59:39,780 --> 00:59:41,949
本質上是
人類的控制者。
1366
00:59:41,982 --> 00:59:45,119
我們確實很擔心
專制政府。
1367
00:59:46,053 --> 00:59:48,989
大衛‧埃文‧哈里斯：
現在，華爾街
1368
00:59:49,023 --> 00:59:51,392
以及更廣泛的投資者
世界各地
1369
00:59:51,425 --> 00:59:53,260
正在推動。
1370
00:59:53,294 --> 00:59:56,697
他們有一個需求
產品推向市場
1371
00:59:56,730 --> 00:59:58,866
使人們眼花撩亂
最先。
1372
00:59:58,899 --> 01:00:01,769
他們沒有思考
關於這些工具的用途
1373
01:00:01,802 --> 01:00:03,737
可能嚴重破壞信任
1374
01:00:03,771 --> 01:00:06,107
以及我們的民主機構。
1375
01:00:06,140 --> 01:00:08,109
哈拉里：
民主是體系
1376
01:00:08,142 --> 01:00:10,911
解決分歧
人與人之間
1377
01:00:10,945 --> 01:00:12,646
以和平的方式，
1378
01:00:12,680 --> 01:00:15,082
但民主是建立在信任的基礎上的。
1379
01:00:15,116 --> 01:00:19,220
如果你失去了所有的信任，
民主根本不可能。
1380
01:00:21,255 --> 01:00:22,957
特里斯坦哈里斯：
嗯，這很難，對吧？
1381
01:00:22,990 --> 01:00:25,259
那麼，有哪些選擇
可供我們使用嗎？
1382
01:00:25,292 --> 01:00:26,760
有兩個陣營。
1383
01:00:26,794 --> 01:00:30,030
就像，一個陣營是：鎖定它。
1384
01:00:30,064 --> 01:00:33,267
讓我們鎖定這個
進入少數人工智慧公司
1385
01:00:33,300 --> 01:00:35,970
誰會做這個
以安全且值得信賴的方式。
1386
01:00:36,003 --> 01:00:37,705
但隨後人們擔心
1387
01:00:37,738 --> 01:00:39,273
濃度失控
財富和權力。
1388
01:00:39,306 --> 01:00:42,209
例如，你會相信誰
強大一百萬倍
1389
01:00:42,243 --> 01:00:44,845
或富有於
社會上所有其他演員？
1390
01:00:44,879 --> 01:00:46,881
我們為什麼要相信你？
1391
01:00:46,914 --> 01:00:49,016
嗯，你不應該。
1392
01:00:49,049 --> 01:00:51,785
但當然，如果你這樣做，
這打開了
1393
01:00:51,819 --> 01:00:54,922
所有這些風險
獨裁主義和暴政。
1394
01:00:54,955 --> 01:00:57,391
這——有點像
獨裁者的夢想
1395
01:00:57,424 --> 01:01:00,861
將人工智慧裝在盒子裡
可以應用和使用的
1396
01:01:00,895 --> 01:01:03,430
用於無處不在的監視。
1397
01:01:03,464 --> 01:01:05,933
我的意思是，在某些方面，
什麼樣的世界
1398
01:01:05,966 --> 01:01:11,405
歐威爾在1984想像的
是不現實的,
1399
01:01:11,438 --> 01:01:13,841
呃，除非你有AI。
1400
01:01:13,874 --> 01:01:16,443
但有了人工智慧，
這實際上是現實的。
1401
01:01:16,477 --> 01:01:18,913
監控每項活動，
1402
01:01:18,946 --> 01:01:22,316
對話，
臉部辨識。
1403
01:01:22,349 --> 01:01:26,921
我擔心的是，
呃，這些工具可以擴展，
1404
01:01:26,954 --> 01:01:29,023
呃，極權主義的一種形式
1405
01:01:29,056 --> 01:01:31,892
這是具有成本效益的
和永久的。
1406
01:01:33,060 --> 01:01:35,863
崔斯坦哈里斯：所以作為回應
對此，其他一些人說，
1407
01:01:35,896 --> 01:01:37,398
「不不不，我們應該
實際上讓這撕裂。
1408
01:01:37,431 --> 01:01:39,934
「讓我們分散這種權力
盡可能多的。
1409
01:01:39,967 --> 01:01:42,036
「讓我們每個企業，
每個人，
1410
01:01:42,069 --> 01:01:44,238
「每個16歲的人，
每個科學實驗室，
1411
01:01:44,271 --> 01:01:46,473
你知道，得到好處
最新的人工智慧模型。 」
1412
01:01:46,508 --> 01:01:48,475
但現在你有
每一個恐怖組織，
1413
01:01:48,510 --> 01:01:52,112
每個被剝奪權利的人
有能力製造
1414
01:01:52,146 --> 01:01:54,181
最糟糕的
生物武器。
1415
01:01:54,215 --> 01:01:56,050
駭客基礎設施，
創造深度贗品，
1416
01:01:56,083 --> 01:01:57,818
洪水
我們的資訊環境。
1417
01:01:57,851 --> 01:02:00,955
這就造成了所有這些風險
某種災難性的傷害
1418
01:02:00,988 --> 01:02:03,257
社會崩潰
通過那個方向。
1419
01:02:03,290 --> 01:02:05,092
所以我們有點陷入困境
在這塊岩石之間
1420
01:02:05,125 --> 01:02:08,229
和一個艱難的地方，
在「鎖起來…」之間
1421
01:02:08,262 --> 01:02:09,897
（含糊不清的喋喋不休）
1422
01:02:11,131 --> 01:02:12,900
-...或“讓它撕裂。”
-（警笛聲響）
1423
01:02:12,933 --> 01:02:14,468
（人們大喊）
1424
01:02:14,501 --> 01:02:18,038
所以我們必須找到一些東西
像一條窄路
1425
01:02:18,072 --> 01:02:20,774
這避免了
這兩個負面結果。
1426
01:02:20,808 --> 01:02:23,277
所以，如果這一切都是真的，
我們為什麼不放慢速度
1427
01:02:23,310 --> 01:02:26,380
並弄清楚這一切
在為時已晚之前？
1428
01:02:26,413 --> 01:02:29,450
如果人類極其智慧，
1429
01:02:29,483 --> 01:02:31,418
這就是我們要做的。
1430
01:02:31,452 --> 01:02:33,555
但有一個不同的
面對這些事情的方式，對嗎？
1431
01:02:33,588 --> 01:02:36,457
這是：
遊戲規則是什麼？
1432
01:02:36,490 --> 01:02:39,994
很多，例如執行長所做的事情
1433
01:02:40,027 --> 01:02:42,429
是由
他們面臨的激勵因素。
1434
01:02:42,463 --> 01:02:45,866
這主要是
利潤最大化激勵
1435
01:02:45,899 --> 01:02:47,468
正在開車的
人工智慧的發展。
1436
01:02:47,501 --> 01:02:50,938
連好人也被困住了
在這種困境中
1437
01:02:50,971 --> 01:02:53,107
如果他們移動得太慢，
1438
01:02:53,140 --> 01:02:55,042
然後他們離開自己
脆弱的
1439
01:02:55,075 --> 01:02:57,478
對所有其他人
他們正在偷工減料。
1440
01:02:57,512 --> 01:03:02,316
所有這些頂級公司都在
一場完全無拘無束的比賽
1441
01:03:02,349 --> 01:03:06,153
盡可能快地獲得
前往 AGI，立即前往。
1442
01:03:06,186 --> 01:03:07,855
♪ ♪
1443
01:03:08,856 --> 01:03:10,924
拉迪什：是的，我是說，
我認為，我認為
1444
01:03:10,958 --> 01:03:13,460
它可能開始
與 DeepMind 一起。
1445
01:03:13,494 --> 01:03:15,195
女新聞員：
Google 正在收購
1446
01:03:15,229 --> 01:03:16,930
人工智慧公司
DeepMind 技術。
1447
01:03:16,964 --> 01:03:18,932
交易條款
未揭露。
1448
01:03:18,966 --> 01:03:21,168
伊隆馬斯克：拉里佩奇和我
曾經是非常親密的朋友，
1449
01:03:21,201 --> 01:03:23,170
這對我來說很明顯
1450
01:03:23,203 --> 01:03:26,608
拉里不在乎
關於人工智慧安全。
1451
01:03:26,641 --> 01:03:29,276
艾米莉張：伊隆馬斯克說過
你開始了 OpenAI，
1452
01:03:29,310 --> 01:03:31,312
你們都創辦了 OpenAI，因為
他害怕谷歌。
1453
01:03:31,345 --> 01:03:32,614
LADISH：你-你基本上
有基礎
1454
01:03:32,647 --> 01:03:34,181
OpenAI 的誕生。
1455
01:03:34,214 --> 01:03:35,482
「所以我們會做得更好。
我們會做的
1456
01:03:35,517 --> 01:03:37,818
以更安全的方式
或以更開放的方式。 ”
1457
01:03:39,019 --> 01:03:41,055
這就是 OpenAI 的起源。
1458
01:03:41,088 --> 01:03:43,357
所以現在，而不是
擁有一個 AGI 項目，
1459
01:03:43,390 --> 01:03:45,225
你有兩個 AGI 項目。
1460
01:03:45,259 --> 01:03:47,328
最糟糕的事情
那可能發生
1461
01:03:47,361 --> 01:03:50,097
是如果有
多個AGI項目
1462
01:03:50,130 --> 01:03:52,266
由不同的人完成
誰不喜歡彼此
1463
01:03:52,299 --> 01:03:55,202
並且都在競爭
首先了解 AGI。
1464
01:03:55,235 --> 01:03:57,338
這將是最糟糕的
可能發生的事情，
1465
01:03:57,371 --> 01:04:00,407
因為這意味著
誰最不安全，
1466
01:04:00,441 --> 01:04:03,477
誰犧牲最大
安全領先
1467
01:04:03,511 --> 01:04:05,446
將是那個人
首先到達那裡。
1468
01:04:05,479 --> 01:04:08,248
-丹尼爾：基本上就是這樣
發生了什麼事，對吧？ -是的。
1469
01:04:08,282 --> 01:04:11,952
你和你的兄弟
著名地離開了 OpenAI，呃，
1470
01:04:11,985 --> 01:04:13,320
啟動 Anthropic。
1471
01:04:13,354 --> 01:04:15,422
拉斯金：然後是人擇
開始是因為
1472
01:04:15,456 --> 01:04:18,258
一些研究人員
OpenAI 內部表示，
1473
01:04:18,292 --> 01:04:20,894
“我想走開
並且做得更安全。 」
1474
01:04:20,928 --> 01:04:24,064
你還需要一些東西
只是擴大模型的規模，
1475
01:04:24,098 --> 01:04:26,233
這是對齊或安全。
1476
01:04:26,266 --> 01:04:28,001
亨德里克斯：
「我們更有責任感
1477
01:04:28,035 --> 01:04:30,170
或更值得信賴
或更道德。 」
1478
01:04:30,204 --> 01:04:32,072
現在您有三個 AGI 項目。
1479
01:04:32,106 --> 01:04:33,575
但也圍坐在一起
和你同桌
1480
01:04:33,608 --> 01:04:35,242
將會是一群人工智慧。
1481
01:04:35,275 --> 01:04:38,078
LADISH：現在 Meta 是-是
嘗試做一些事情。
1482
01:04:38,112 --> 01:04:40,114
同時，一種新的人工
情報競爭對手
1483
01:04:40,147 --> 01:04:41,949
本周宣布，
馬斯克的...
1484
01:04:41,982 --> 01:04:45,119
HENDRYCKS：xAI，這將是
伊隆馬斯克的組織。
1485
01:04:45,152 --> 01:04:46,688
麝香：
我不信任 OpenAI。
1486
01:04:46,721 --> 01:04:48,489
之間的戰鬥
馬斯克和 OpenAI
1487
01:04:48,523 --> 01:04:50,124
已進入新一輪。
1488
01:04:50,157 --> 01:04:52,192
我不相信山姆·奧特曼
呃，我，我不認為
1489
01:04:52,226 --> 01:04:54,529
我們想要擁有最多
世界上最強大的人工智慧
1490
01:04:54,562 --> 01:04:56,997
被某人控制
誰不值得信任。
1491
01:04:57,030 --> 01:04:58,999
（歡呼和掌聲）
1492
01:04:59,032 --> 01:05:02,136
激勵措施是
數不清的錢。
1493
01:05:02,169 --> 01:05:04,004
-是的。
——是難以言喻的力量。
1494
01:05:04,037 --> 01:05:06,006
-是的。
- 是不可言說的控制。
1495
01:05:06,039 --> 01:05:08,409
如果你有什麼
那是聰明一百萬倍
1496
01:05:08,442 --> 01:05:12,012
並且比更有能力
地球上的其他一切
1497
01:05:12,045 --> 01:05:14,682
而且沒有人有這樣的能力，
1498
01:05:14,716 --> 01:05:16,551
那東西就是激勵。
1499
01:05:16,584 --> 01:05:18,118
所以你統治世界。
1500
01:05:19,153 --> 01:05:21,021
如果你真的相信這一點，
1501
01:05:21,054 --> 01:05:23,223
如果你真的在心裡
相信這一點，
1502
01:05:23,257 --> 01:05:24,526
那你可能會
願意接受
1503
01:05:24,559 --> 01:05:26,460
相當大的風險
為了實現這一目標。
1504
01:05:26,493 --> 01:05:29,329
谷歌剛剛發布了
其最新的人工智能模型。
1505
01:05:29,363 --> 01:05:31,699
OpenAI 的 ChatGPT 的答案。
1506
01:05:31,733 --> 01:05:33,434
我們如何到達
這十萬億？
1507
01:05:33,467 --> 01:05:35,502
NVIDIA 是否已成为最
美国有价值的公司？
1508
01:05:35,537 --> 01:05:39,574
這是最大的生意
歷史上的機會。
1509
01:05:39,607 --> 01:05:41,074
歷史上。
1510
01:05:41,108 --> 01:05:42,710
那麼，究其原因，
每個人都非常興奮
1511
01:05:42,744 --> 01:05:45,179
關於人工智慧
現在
1512
01:05:45,212 --> 01:05:48,415
是因為
这些公司炒作得越多
1513
01:05:48,449 --> 01:05:50,417
潛在能力
他們的技術
1514
01:05:50,451 --> 01:05:53,555
投資越多
他們可以吸引。
1515
01:05:53,588 --> 01:05:55,222
卡爾金塔尼利亞：
亞馬遜投資高達
1516
01:05:55,255 --> 01:05:57,592
四十億美元
在新創公司 Anthropic 中。
1517
01:05:57,625 --> 01:05:59,193
OpenAI 正在瞄準
1518
01:05:59,226 --> 01:06:01,428
在轟動一時的一半
兆美元估值。
1519
01:06:01,462 --> 01:06:02,597
五萬億！
1520
01:06:02,630 --> 01:06:03,731
比賽開始了。
1521
01:06:03,765 --> 01:06:05,165
這正在發生
比以往任何時候都快。
1522
01:06:05,199 --> 01:06:07,167
我們正處於人工智慧泡沫之中嗎？
當然。
1523
01:06:07,201 --> 01:06:09,537
我就是沒看到
泡沫破裂
1524
01:06:09,571 --> 01:06:12,707
當你還有
這個主要的支出週期。
1525
01:06:12,740 --> 01:06:15,409
拉斯金：即使你認為
這都是炒作，
1526
01:06:15,442 --> 01:06:18,145
有數十億
至數兆美元
1527
01:06:18,178 --> 01:06:21,482
流入人工智慧系統
更強大。
1528
01:06:21,516 --> 01:06:24,351
一旦你擁有了那個東西
那個更強大，
1529
01:06:24,384 --> 01:06:25,753
公司可以使用它
1530
01:06:25,787 --> 01:06:27,755
獲得更大的利潤
並賺更多錢。
1531
01:06:27,789 --> 01:06:30,491
各國可以使用它
打造更強大的軍隊。
1532
01:06:30,525 --> 01:06:33,293
英偉達已經超越
微軟與蘋果
1533
01:06:33,327 --> 01:06:36,564
成為世界上
最有價值的公司。
1534
01:06:36,598 --> 01:06:39,399
部署競賽變成了
魯莽的競賽，
1535
01:06:39,433 --> 01:06:42,302
因為他們不能
快速部署
1536
01:06:42,336 --> 01:06:43,538
並做對。
1537
01:06:43,571 --> 01:06:46,440
他們相信
他們是好人。
1538
01:06:46,473 --> 01:06:49,611
「如果我不這麼做，
沒有的人
1539
01:06:49,644 --> 01:06:51,779
「和我一樣有良好的價值觀
將坐在桌旁
1540
01:06:51,813 --> 01:06:55,082
做出決定，所以
我有義務這樣做。 」
1541
01:06:55,115 --> 01:06:56,551
是的，這是
一個非常普遍的信念。
1542
01:06:56,584 --> 01:06:59,152
很多很多很多，
也許大多數人
1543
01:06:59,186 --> 01:07:01,255
建構這項技術
相信這一點。
1544
01:07:01,288 --> 01:07:04,258
我擔心
商業競爭，
1545
01:07:04,291 --> 01:07:06,393
但事實證明
我更擔心的是
1546
01:07:06,426 --> 01:07:08,428
地緣政治競爭。
1547
01:07:08,462 --> 01:07:10,665
我們落後了八年
一年前。
1548
01:07:10,698 --> 01:07:12,800
現在我們可能
落後不到一年。
1549
01:07:12,834 --> 01:07:16,236
好吧，沙烏地阿拉伯
和阿聯酋一直在比賽
1550
01:07:16,270 --> 01:07:18,673
建立資料中心
並給自己定位
1551
01:07:18,706 --> 01:07:20,675
作為人工智慧領域的主導力量......
1552
01:07:20,708 --> 01:07:22,710
....打造韓國
全球人工智慧領導者。
1553
01:07:22,744 --> 01:07:24,411
茱莉亞西格：
法國總統馬克宏
1554
01:07:24,444 --> 01:07:26,380
說了很多關於
人工智慧...
1555
01:07:26,413 --> 01:07:27,715
現在更多關於以色列的角色
1556
01:07:27,749 --> 01:07:29,817
在人工智慧領域
革命...
1557
01:07:29,851 --> 01:07:33,487
各國將展開競爭
人工智慧技術為誰服務
1558
01:07:33,521 --> 01:07:35,355
創造下一代
的工業。
1559
01:07:35,389 --> 01:07:38,626
中國人堅持
那個人工智慧，
1560
01:07:38,660 --> 01:07:40,360
由於在中國正在開發，
1561
01:07:40,394 --> 01:07:42,095
強化核心價值
1562
01:07:42,129 --> 01:07:44,431
中國共產黨
和中國的製度。
1563
01:07:44,464 --> 01:07:49,269
美國必須擊敗中國
在人工智慧競賽中。
1564
01:07:49,303 --> 01:07:51,639
丹尼爾：中國的，比如，
落後光年。
1565
01:07:51,673 --> 01:07:53,240
他們是嗎？
1566
01:07:53,273 --> 01:07:55,442
我的意思是，他們還有更多
訓練資料比我們多，
1567
01:07:55,475 --> 01:07:58,312
沒有什麼說他們
下個月不要放棄模型
1568
01:07:58,345 --> 01:08:01,415
那不是——
並沒有比 GPT-4 好多少。
1569
01:08:01,448 --> 01:08:04,318
一切都很順利。
可能會出什麼問題？
1570
01:08:04,351 --> 01:08:07,254
-DeepSeek...（說中文）
-DeepSeek... -DeepSeek...
1571
01:08:07,287 --> 01:08:08,455
有一個新模型。
1572
01:08:08,488 --> 01:08:11,325
但來自中國實驗室
稱為 DeepSeek。
1573
01:08:11,358 --> 01:08:14,428
我們來談談DeepSeek，
因為它令人心曠神怡，
1574
01:08:14,461 --> 01:08:18,231
它正在震動這個
整個產業的核心。
1575
01:08:18,265 --> 01:08:19,701
川普政府
將確保
1576
01:08:19,734 --> 01:08:23,470
那個最強大的
人工智慧系統是在美國建造的
1577
01:08:23,503 --> 01:08:27,174
與美國設計
並製造晶片。
1578
01:08:27,207 --> 01:08:29,343
人工智慧是中國的
阿波羅計劃。
1579
01:08:29,376 --> 01:08:30,745
中國共產黨
1580
01:08:30,778 --> 01:08:32,179
深刻了解潛能
1581
01:08:32,212 --> 01:08:33,380
讓人工智慧擾亂戰爭。
1582
01:08:33,413 --> 01:08:35,650
谷歌不再承諾
它不會
1583
01:08:35,683 --> 01:08:38,886
使用人工智慧
用於武器或監視。
1584
01:08:38,920 --> 01:08:40,487
中國、北韓、俄羅斯
1585
01:08:40,521 --> 01:08:42,222
我們會繼續建造它
盡快
1586
01:08:42,255 --> 01:08:44,792
為了獲得更多的經濟優勢，
更俱生產力優勢，
1587
01:08:44,826 --> 01:08:47,361
更具科學優勢，
更多的軍事優勢，
1588
01:08:47,394 --> 01:08:48,896
因為人工智慧可以製造出更好的武器。
1589
01:08:48,930 --> 01:08:52,299
如果你說的是
一個廣泛而強大的系統
1590
01:08:52,332 --> 01:08:53,635
作為一位傑出的科學家，
1591
01:08:53,668 --> 01:08:58,271
它可能能夠運行
軍事行動
1592
01:08:58,305 --> 01:09:01,743
勝過任何將軍
現在在美國政府。
1593
01:09:01,776 --> 01:09:06,213
台灣問題是造成
現在最緊張
1594
01:09:06,246 --> 01:09:08,382
北京和美國之間。
1595
01:09:08,415 --> 01:09:10,918
有一個直接的
對立分歧
1596
01:09:10,952 --> 01:09:12,452
美國與中國之間
1597
01:09:12,486 --> 01:09:14,454
關於台灣是否
中國的一部分。
1598
01:09:14,488 --> 01:09:18,926
馬西尼：台灣很重要
有很多原因。
1599
01:09:18,960 --> 01:09:20,828
這裡也是
1600
01:09:20,862 --> 01:09:24,565
約90%的先進晶片
為世界製造，
1601
01:09:24,599 --> 01:09:28,903
這意味著供應
高階計算鏈
1602
01:09:28,936 --> 01:09:31,506
如果有的話就會有風險
1603
01:09:31,539 --> 01:09:33,440
某種場景
台灣各地，
1604
01:09:33,473 --> 01:09:37,712
是否a-封鎖
或中國的入侵。
1605
01:09:38,311 --> 01:09:40,948
亨德里克斯：
我們要參加什麼比賽嗎
1606
01:09:40,982 --> 01:09:45,853
美國和中國之間
最終演變成
1607
01:09:45,887 --> 01:09:49,891
軍事化的人工智慧軍備競賽，
你知道，潛在的線索
1608
01:09:49,924 --> 01:09:51,659
某些大國衝突？
1609
01:09:51,693 --> 01:09:53,493
NICK SCHIFRIN：即將離職
美國最高軍事指揮官
1610
01:09:53,528 --> 01:09:56,396
在該地區
預測戰爭即將來臨。
1611
01:09:56,430 --> 01:09:58,432
我認為威脅是顯而易見的
在這十年裡，
1612
01:09:58,465 --> 01:09:59,967
事實上，在接下來的六年裡。
1613
01:10:00,001 --> 01:10:01,769
馬西尼：
嗯，其中一個場景
1614
01:10:01,803 --> 01:10:06,406
我擔心的是
一場網路閃電戰，
1615
01:10:06,440 --> 01:10:11,445
嗯，其中一個
自主的網路工具
1616
01:10:11,478 --> 01:10:13,447
互相競爭
1617
01:10:13,480 --> 01:10:15,248
以逐步升級的方式
1618
01:10:15,282 --> 01:10:17,317
沒有
有意義的人類控制。
1619
01:10:19,386 --> 01:10:20,755
哈拉里：
你住在戰區，
1620
01:10:20,788 --> 01:10:24,357
這將由人工智慧決定
是否轟炸你的房子
1621
01:10:24,391 --> 01:10:26,326
以及是否要殺了你。
1622
01:10:26,359 --> 01:10:27,995
讓機器來決定吧。
1623
01:10:28,029 --> 01:10:29,731
這就是誘惑。
1624
01:10:29,764 --> 01:10:32,867
這就是人工智慧如此誘人的原因
供軍隊採用，
1625
01:10:32,900 --> 01:10:36,003
製造自主武器，
因為如果我開始相信
1626
01:10:36,037 --> 01:10:39,607
我的軍事對手
將採用人工智慧，
1627
01:10:39,640 --> 01:10:42,375
這將會是一場誰能做到的競賽
更快扣下板機。
1628
01:10:42,409 --> 01:10:45,445
以及自動化的那個
那個決定，
1629
01:10:45,479 --> 01:10:47,615
而不是擁有
一個人在循環中，
1630
01:10:47,648 --> 01:10:49,817
是那個
那將贏得那場戰爭。
1631
01:10:49,851 --> 01:10:51,284
如果你想
1632
01:10:51,318 --> 01:10:53,755
核武軍備競賽
在 20 世紀 40 年代...
1633
01:10:54,689 --> 01:10:56,891
....你了解德國人
正在研究炸彈，
1634
01:10:56,924 --> 01:11:01,361
所以這並不容易說清楚
羅伯特·奧本海默當時，
1635
01:11:01,394 --> 01:11:04,031
“呃，你知道，你慢一點。”
1636
01:11:04,065 --> 01:11:05,900
所以看完這部電影後，
會很混亂，
1637
01:11:05,933 --> 01:11:07,300
因為你要回去
1638
01:11:07,334 --> 01:11:08,736
明天
你會使用ChatGPT，
1639
01:11:08,770 --> 01:11:10,772
將會是
難以置信的有幫助。
1640
01:11:10,805 --> 01:11:12,974
我也會用它，並且
這會非常有幫助。
1641
01:11:13,007 --> 01:11:16,611
你會說，「等等，所以
我剛剛看了一部關於人工智慧的電影
1642
01:11:16,644 --> 01:11:18,513
「和存在風險
所有這些事情，
1643
01:11:18,546 --> 01:11:20,915
威脅又在哪裡？ 」
1644
01:11:20,948 --> 01:11:24,986
ChatGPT 並不是這樣的
存在的威脅。
1645
01:11:25,019 --> 01:11:29,322
這就是部署競賽
最強大的，
1646
01:11:29,356 --> 01:11:32,093
深不可測，
不可控的技術，
1647
01:11:32,126 --> 01:11:35,630
最壞的情況下
可能的激勵措施，
1648
01:11:35,663 --> 01:11:37,732
這就是存在的威脅。
1649
01:11:38,398 --> 01:11:40,935
丹尼爾：
但令我震驚的是——
1650
01:11:40,968 --> 01:11:43,671
我們正處於一場競賽的背景下。
1651
01:11:43,704 --> 01:11:46,473
-SUTSKEVER：是的。
-而且是在競爭激烈的情況下，
1652
01:11:46,507 --> 01:11:48,109
「必須先到達那裡，
必須贏得比賽」的設定，
1653
01:11:48,142 --> 01:11:49,544
「必須與中國競爭，
1654
01:11:49,577 --> 01:11:50,945
必須競爭
其他實驗室。 」
1655
01:11:50,978 --> 01:11:52,412
是不是這樣？
1656
01:11:52,445 --> 01:11:54,115
今天的情況就是如此。
1657
01:11:54,148 --> 01:11:57,552
所以我們需要改變
那種比賽動態。
1658
01:11:58,519 --> 01:12:00,487
你不覺得嗎？
1659
01:12:00,521 --> 01:12:02,857
我認為那會是
確實非常好。
1660
01:12:04,158 --> 01:12:06,928
我-我認為
有某種...
1661
01:12:06,961 --> 01:12:10,064
圍繞人工智慧的神秘主義
這讓人感覺就像
1662
01:12:10,097 --> 01:12:11,999
它從天上掉下來。
1663
01:12:12,033 --> 01:12:14,001
丹尼爾：想到這個
作為神一般的技術
1664
01:12:14,035 --> 01:12:15,970
是一個問題。
1665
01:12:16,003 --> 01:12:17,672
是的。
1666
01:12:18,773 --> 01:12:20,473
為什麼？
1667
01:12:20,508 --> 01:12:23,544
它給予許可
給公司...
1668
01:12:23,578 --> 01:12:26,714
（笑）
不承擔責任
1669
01:12:26,747 --> 01:12:31,418
對於該軟體的東西
他們建造的確實如此。
1670
01:12:31,451 --> 01:12:35,590
如果人們建立了這種聯繫，
1671
01:12:35,623 --> 01:12:37,859
也許那會像
幫助他們再次理解
1672
01:12:37,892 --> 01:12:42,462
的動態
所有的金錢和權力以及…
1673
01:12:42,495 --> 01:12:45,933
正在發生的混亂…
1674
01:12:45,967 --> 01:12:47,602
創造這項技術。
1675
01:12:47,635 --> 01:12:49,737
好像有五個人
誰控制它，對嗎？
1676
01:12:49,770 --> 01:12:52,139
-比如，五個男人？
-基本上，是的。
1677
01:12:52,173 --> 01:12:54,642
-執行長們？
-是的。
1678
01:12:54,675 --> 01:12:55,977
好的。
1679
01:12:57,178 --> 01:12:59,580
♪ ♪
1680
01:13:01,616 --> 01:13:03,618
丹尼爾：
有時感覺像
1681
01:13:03,651 --> 01:13:07,755
我一直在做這個
就像無盡的旅程
1682
01:13:07,788 --> 01:13:09,757
試著理解這一點。
1683
01:13:09,790 --> 01:13:12,994
你知道，就像
我正在爬山...
1684
01:13:15,930 --> 01:13:19,634
...每次
我喜歡爬上一座小山，
1685
01:13:19,667 --> 01:13:21,035
我想我已經達到頂峰
1686
01:13:21,068 --> 01:13:24,005
但它仍在繼續
走啊走。
1687
01:13:24,038 --> 01:13:25,072
（相機咔噠聲、呼呼聲）
1688
01:13:25,106 --> 01:13:27,174
但從我所聽到的一切來看
1689
01:13:27,208 --> 01:13:30,778
如果我必須猜是什麼
在焦慮山頂上，
1690
01:13:30,811 --> 01:13:34,682
就是這五位執行長
來自這五家公司，
1691
01:13:34,715 --> 01:13:37,952
誰有點像
此時此刻的奧本海默。
1692
01:13:37,985 --> 01:13:40,054
這些都是傢伙
誰正在建造這個東西。
1693
01:13:40,087 --> 01:13:41,454
是的。
1694
01:13:41,488 --> 01:13:44,659
例如，有計劃嗎？
1695
01:13:44,692 --> 01:13:46,827
公司負責人
這使得 ChatGPT
1696
01:13:46,861 --> 01:13:50,531
警告可能的
對世界造成重大危害。
1697
01:13:50,564 --> 01:13:53,000
我想，如果這項技術
出錯了，
1698
01:13:53,034 --> 01:13:54,068
它可能會出錯。
1699
01:13:54,101 --> 01:13:56,237
（爆發出明顯的喋喋不休）
1700
01:13:56,270 --> 01:13:58,072
丹尼爾：
五個傢伙。
1701
01:13:58,105 --> 01:14:01,943
我-我從來沒有想過我們
作為一家社交媒體公司。
1702
01:14:01,976 --> 01:14:06,814
這-感覺我必須嘗試一下
然後-然後找這些人...
1703
01:14:06,847 --> 01:14:07,515
嗯嗯。
1704
01:14:07,548 --> 01:14:09,784
……然後讓它們出現在電影中。
1705
01:14:10,584 --> 01:14:13,554
我們當然會得到
從中可以得到一些清楚的認識。
1706
01:14:14,188 --> 01:14:15,723
（相機咔噠聲、呼呼聲）
1707
01:14:16,590 --> 01:14:19,860
我的意思是，責任必須停止
某個地方，對吧？
1708
01:14:19,894 --> 01:14:21,862
（風呼嘯）
1709
01:14:21,896 --> 01:14:23,731
♪ ♪
1710
01:14:24,398 --> 01:14:26,734
（工具發出呼呼聲和咔噠聲）
1711
01:14:27,668 --> 01:14:29,870
（呼嘯）
1712
01:14:34,608 --> 01:14:35,810
丹尼爾：
那種感覺怎麼樣？
1713
01:14:35,843 --> 01:14:38,212
-偉大的。
-這樣可以嗎？
1714
01:14:38,245 --> 01:14:39,847
-是的。
-（船員們模糊的交談聲）
1715
01:14:39,880 --> 01:14:41,582
-我可以把座位往前移嗎？
-丹尼爾：是的，你可以。
1716
01:14:41,615 --> 01:14:42,717
這就是，呃，這只是
有點尷尬。
1717
01:14:42,750 --> 01:14:43,985
我有點像...
1718
01:14:44,018 --> 01:14:45,619
達裡奧，你感覺如何
關於那張椅子？
1719
01:14:45,653 --> 01:14:47,588
嗯，是的，椅子很好。
1720
01:14:47,621 --> 01:14:49,290
-我只是想移動它
向前一點。 -好的。
1721
01:14:49,323 --> 01:14:51,125
我選了那張椅子。
1722
01:14:51,158 --> 01:14:52,727
- 這是一張好椅子。
-謝謝。
1723
01:14:52,760 --> 01:14:54,562
（手機鈴聲響起）
1724
01:14:58,332 --> 01:15:00,500
泰德：
然後就坐在那裡。
1725
01:15:02,036 --> 01:15:03,104
然後經過這裡，
1726
01:15:03,137 --> 01:15:05,006
我們會看著對方
透過這塊玻璃。
1727
01:15:05,039 --> 01:15:07,074
（忙音提示音）
1728
01:15:11,879 --> 01:15:13,948
然後坐回椅子上，
向前傾斜？
1729
01:15:13,981 --> 01:15:15,683
-丹尼爾：是的。好吧，無論怎樣
舒服，我想。 -好的。
1730
01:15:15,716 --> 01:15:17,018
這有點酷。
那裡有一堆鏡子。
1731
01:15:17,051 --> 01:15:18,285
-這樣嗎--好吧。
- 女士：Sam A.，拿一個。標記。
1732
01:15:18,319 --> 01:15:19,920
-怎麼樣？
-好的。謝謝。
1733
01:15:19,954 --> 01:15:21,622
丹尼爾：起源
這個專案的重點是我
1734
01:15:21,655 --> 01:15:23,290
坐在家裡，
我正在玩，
1735
01:15:23,324 --> 01:15:24,859
我想，你的圖像生成器，
1736
01:15:24,892 --> 01:15:27,762
而我同時，
呃，嚇壞了
1737
01:15:27,795 --> 01:15:29,897
- 真的印象深刻。
-（輕笑）
1738
01:15:29,930 --> 01:15:32,333
- 這是通常的組合。
-然後切到
1739
01:15:32,366 --> 01:15:35,002
我和我的妻子發現
我們期待著。
1740
01:15:35,036 --> 01:15:38,773
而且-而且我，就像，有
存在危機
1741
01:15:38,806 --> 01:15:40,775
就像我妻子一樣
懷孕六個月。
1742
01:15:40,808 --> 01:15:43,577
我認為我的第一個問題是
我問大家：
1743
01:15:43,611 --> 01:15:46,080
現在是一個可怕的時刻
想要一個孩子嗎？
1744
01:15:46,113 --> 01:15:47,848
我犯了一個大錯誤嗎？
1745
01:15:47,882 --> 01:15:49,650
我在等一個孩子
三月也是。我的第一個。
1746
01:15:49,683 --> 01:15:50,918
-你在等一個孩子嗎？
-是的。
1747
01:15:50,951 --> 01:15:52,319
-你預計三月嗎？
-第一個孩子。
1748
01:15:52,353 --> 01:15:53,788
-馬澤爾托夫。
-非常感謝。
1749
01:15:53,821 --> 01:15:54,922
我從來沒有這麼興奮過
對於任何事情。
1750
01:15:54,955 --> 01:15:57,091
-這就是我的感覺。
-是的。
1751
01:15:57,124 --> 01:15:58,759
但你不害怕嗎？
1752
01:15:58,793 --> 01:16:03,064
我的意思是，就像，有一個孩子是
只是這件重大的事情
1753
01:16:03,097 --> 01:16:05,633
我，你知道，
我每天晚上都熬夜，就像
1754
01:16:05,666 --> 01:16:07,334
閱讀這些關於
如何撫養孩子，
1755
01:16:07,368 --> 01:16:08,769
我希望
我一定會做好事的
1756
01:16:08,803 --> 01:16:09,804
感覺
非常壓倒性的並且——
1757
01:16:09,837 --> 01:16:12,673
但我並不害怕...
1758
01:16:12,706 --> 01:16:14,675
為了孩子的成長
在人工智慧的世界裡。
1759
01:16:14,708 --> 01:16:16,811
就像，那是……沒關係。
1760
01:16:16,844 --> 01:16:19,280
很高興聽到
來自那個傢伙。
1761
01:16:19,313 --> 01:16:21,082
我認為這是個好主意
生孩子。
1762
01:16:21,115 --> 01:16:23,784
我-我認為他們是最
神奇的、不可思議的事。
1763
01:16:23,818 --> 01:16:25,820
——（重重地嘆了口氣）
——有太多的不確定性，
1764
01:16:25,853 --> 01:16:27,188
我幾乎會這樣做
無論如何你要做什麼。
1765
01:16:27,221 --> 01:16:29,223
我知道那不是
非常滿意的答复，
1766
01:16:29,256 --> 01:16:32,359
但這是唯一的一個
我能想出。
1767
01:16:32,393 --> 01:16:34,929
我們的孩子永遠不會...
1768
01:16:34,962 --> 01:16:37,331
知道一個沒有的世界
真正先進的人工智慧。
1769
01:16:37,364 --> 01:16:40,167
事實上，我們的孩子永遠不會
比人工智慧更聰明。
1770
01:16:40,201 --> 01:16:42,703
丹尼爾：「我們的孩子會
永遠不會比人工智慧更聰明」？
1771
01:16:42,736 --> 01:16:44,839
嗯，從原始的角度來看，
從原始智商的角度來看，
1772
01:16:44,872 --> 01:16:46,807
他們永遠不會
比人工智慧更聰明。
1773
01:16:46,841 --> 01:16:48,309
這個觀念不
讓你有點不安嗎？
1774
01:16:48,342 --> 01:16:51,712
因為這讓我感覺
有點奇怪地感到噁心。
1775
01:16:51,745 --> 01:16:55,316
嗯，這確實讓我感到不安
一點點。
1776
01:16:55,349 --> 01:16:56,817
但這是現實。
1777
01:16:56,851 --> 01:16:58,819
丹尼爾：
好的，所以比賽動態。
1778
01:16:58,853 --> 01:17:01,655
我們有一群人
誰都同意
1779
01:17:01,689 --> 01:17:03,190
這很可怕。
1780
01:17:03,224 --> 01:17:05,126
根據時間表
很多人給了我，
1781
01:17:05,159 --> 01:17:07,661
我們有兩個月的時間
五年的時間來解決這個問題。
1782
01:17:07,695 --> 01:17:09,063
-是的。
-而且-而且，我猜，
1783
01:17:09,096 --> 01:17:13,767
我最大的問題是：
為什麼我們不能停下來？
1784
01:17:14,768 --> 01:17:19,340
問題是，呃呃，
「只是停下來」就是，嗯，
1785
01:17:19,373 --> 01:17:22,776
現在有很多很多團體
世界各地啊啊啊
1786
01:17:22,810 --> 01:17:26,113
建構這個，為了
許多國家、許多公司、
1787
01:17:26,147 --> 01:17:28,749
嗯，全部與
不同的動機。
1788
01:17:28,782 --> 01:17:31,152
有一些
這個領域的這些公司
1789
01:17:31,185 --> 01:17:34,455
他們的立場是誰，「我們想要
開發這項技術
1790
01:17:34,488 --> 01:17:36,323
絕對盡可能快。 」
1791
01:17:36,357 --> 01:17:40,694
即使我們可以通過法律
在美國和歐洲，
1792
01:17:40,728 --> 01:17:42,897
我們需要說服...
1793
01:17:42,930 --> 01:17:45,266
習近平和弗拉基米爾·普丁
或者，你知道，
1794
01:17:45,299 --> 01:17:47,968
無論誰的科學
顾问站在他们一边。
1795
01:17:48,002 --> 01:17:49,837
那真的會很難。
1796
01:17:49,870 --> 01:17:51,238
我認為這是真的
1797
01:17:51,272 --> 01:17:54,041
如果兩個人
在完全相同的地方，
1798
01:17:54,074 --> 01:17:56,410
呃，願意接受的人
更多安全捷徑
1799
01:17:56,443 --> 01:17:58,746
應該有點
“先到那裡。”
1800
01:17:58,779 --> 01:18:01,715
呃，但是...
1801
01:18:01,749 --> 01:18:03,284
我們能夠利用我們的領先優勢
1802
01:18:03,317 --> 01:18:06,720
花費更多的時間
進行安全測試。
1803
01:18:06,754 --> 01:18:08,455
丹尼爾：
還有──如果你丟了怎麼辦？
1804
01:18:08,489 --> 01:18:10,057
你接到電話
你發現
1805
01:18:10,090 --> 01:18:12,092
比如說你現在
落後六個月。
1806
01:18:12,126 --> 01:18:14,828
-什-然後會發生什麼事？
-取決於我們落後於誰。
1807
01:18:14,862 --> 01:18:17,364
如果是的話，例如
敵對政府，
1808
01:18:17,398 --> 01:18:19,200
這可能真的很糟糕。
1809
01:18:19,233 --> 01:18:21,902
假設您接到電話
中國有一個，
1810
01:18:21,936 --> 01:18:25,172
有一個遞歸的
自我提升劑
1811
01:18:25,206 --> 01:18:27,808
或類似的東西我們
應該真正擔心。
1812
01:18:27,841 --> 01:18:30,010
發生了什麼事？
1813
01:18:31,478 --> 01:18:33,113
嗯...
1814
01:18:35,950 --> 01:18:37,484
這種情況需要...
1815
01:18:37,519 --> 01:18:41,088
第一步將會是
與美國政府交談。
1816
01:18:41,121 --> 01:18:43,457
山姆，你相信嗎？
政府處理能力
1817
01:18:43,490 --> 01:18:45,292
像這樣的東西？
1818
01:18:46,427 --> 01:18:48,162
是的，實際上我願意。
1819
01:18:48,195 --> 01:18:50,030
還有其他事情我不知道
相信政府能夠處理，
1820
01:18:50,064 --> 01:18:51,832
但那個特定的場景，
我想他們會知道...
1821
01:18:51,865 --> 01:18:53,167
他們-他們--是的。
1822
01:18:53,200 --> 01:18:54,969
丹尼爾：當你有的時候，
喜歡，私人討論
1823
01:18:55,002 --> 01:18:56,937
和其他人一起
手指放在扳機上，
1824
01:18:56,971 --> 01:19:00,241
可以這麼說，嗯，
進行那些私人討論
1825
01:19:00,274 --> 01:19:01,875
讓你充滿信心
1826
01:19:01,909 --> 01:19:03,545
或者他們讓你，
呃，更著急了？
1827
01:19:03,578 --> 01:19:07,414
聽著，我是說，我-我知道一些
他們比其他人更好。
1828
01:19:07,448 --> 01:19:10,417
嗯，我更有信心了
其中一些比我有
1829
01:19:10,451 --> 01:19:12,920
在其他方面，你知道，
與任何人一樣。
1830
01:19:12,953 --> 01:19:14,388
你知道，
你想想，你知道，
1831
01:19:14,421 --> 01:19:16,223
你高中的孩子們
類什麼的，對吧？
1832
01:19:16,257 --> 01:19:18,526
你知道，其中一些是
你知道，真的很甜蜜。
1833
01:19:18,560 --> 01:19:20,961
其中有些是善意的
但沒那麼有效。
1834
01:19:20,995 --> 01:19:22,930
其中一些是，
你知道，惡霸們。
1835
01:19:22,963 --> 01:19:24,198
其中一些是
真是壞人。
1836
01:19:24,231 --> 01:19:26,300
（結巴）
你——你真的有點，
1837
01:19:26,333 --> 01:19:27,535
你真的看到了傳播。
1838
01:19:27,569 --> 01:19:29,236
你知道嗎，我是嗎？
我有信心嗎
1839
01:19:29,270 --> 01:19:31,071
每個人都會做的
正確的事，
1840
01:19:31,105 --> 01:19:32,540
一切都會順利嗎？
1841
01:19:32,574 --> 01:19:34,241
嗯，不，我不是。
1842
01:19:34,275 --> 01:19:36,010
還有——什麼也沒有
我可以做到這一點，對嗎？
1843
01:19:36,043 --> 01:19:38,379
你知道，我能做的一切
is-is 推動，
1844
01:19:38,412 --> 01:19:39,813
推動，你知道，
1845
01:19:39,847 --> 01:19:41,181
推動政府
參與其中。
1846
01:19:41,215 --> 01:19:43,150
但最終我只是
那裡也有一個人。
1847
01:19:43,183 --> 01:19:44,586
那是——
這取決於我們所有人
1848
01:19:44,619 --> 01:19:46,353
推動政府
參與其中。
1849
01:19:46,387 --> 01:19:49,023
這是第一件事
那-那我認為我們需要做
1850
01:19:49,056 --> 01:19:51,292
to-to，你知道，設定事物
朝著正確的方向。
1851
01:19:51,325 --> 01:19:53,160
是什麼讓我焦慮
關於那個，就像，
1852
01:19:53,193 --> 01:19:56,463
的基本現實是
該技術的速度
1853
01:19:56,497 --> 01:19:58,966
正在增殖和成長
是指數的，
1854
01:19:58,999 --> 01:20:02,002
以及立法機制
已經300歲了，
1855
01:20:02,036 --> 01:20:03,304
-永遠。
-是的。
1856
01:20:03,337 --> 01:20:05,573
嗯，我-我想
這將是一個沉重的負擔。
1857
01:20:05,607 --> 01:20:07,274
我-我絕對同意
與你一起。
1858
01:20:07,308 --> 01:20:09,276
丹尼爾：你知道，
我真正在尋找什麼
1859
01:20:09,310 --> 01:20:11,513
是-就像，
「這裡有一些步驟，例如，
1860
01:20:11,546 --> 01:20:15,449
「頭兒們會
take to-注重安全，
1861
01:20:15,482 --> 01:20:18,586
以減輕危險
並最大化承諾。 」
1862
01:20:18,620 --> 01:20:20,588
而我不，
我不知道，我不知道
1863
01:20:20,622 --> 01:20:22,423
那裡有
對此的簡單回答。
1864
01:20:22,456 --> 01:20:24,091
嗯...
1865
01:20:26,360 --> 01:20:28,262
我的意思是，這也許是
太簡單了，
1866
01:20:28,295 --> 01:20:30,632
但你...
1867
01:20:30,665 --> 01:20:32,333
建立一個新模型，
1868
01:20:32,366 --> 01:20:35,202
你研究並測試它
非常仔細。
1869
01:20:35,235 --> 01:20:37,871
你把它拿出來
逐漸走進這個世界，
1870
01:20:37,905 --> 01:20:40,074
然後，越來越多，
你明白
1871
01:20:40,107 --> 01:20:41,875
不管安全與否
然後如果是的話
1872
01:20:41,909 --> 01:20:43,377
您可以進行下一步。
1873
01:20:44,445 --> 01:20:47,414
聽起來沒那麼華而不實
就像一位傑出的科學家
1874
01:20:47,448 --> 01:20:50,652
提出一個想法
實驗室製作人工智慧系統，例如，
1875
01:20:50,685 --> 01:20:54,355
完全安全可控
以及其他一切，
1876
01:20:54,388 --> 01:20:56,190
但這就是我所相信的
將會發生。
1877
01:20:56,223 --> 01:20:57,559
就像，這就是方式
我認為這有效。
1878
01:20:57,592 --> 01:20:59,561
但我們只能說
可怕的事情發生了
1879
01:20:59,594 --> 01:21:02,429
就像模特兒鬆開一樣
或是變得流氓什麼的。
1880
01:21:02,463 --> 01:21:04,031
有協議嗎？
1881
01:21:04,064 --> 01:21:06,266
就像，從字面上看，
我想著一部紅色手機。
1882
01:21:06,300 --> 01:21:07,635
-是的。
-抱歉想到這個
1883
01:21:07,669 --> 01:21:09,103
就電影而言，但是，就像...
1884
01:21:09,136 --> 01:21:10,371
有一個協議。
1885
01:21:10,404 --> 01:21:12,039
- 有紅色手機嗎
在你的桌子上嗎？ -不。
1886
01:21:12,072 --> 01:21:13,508
（笑）：
這是一個秘密嗎？
1887
01:21:13,541 --> 01:21:15,643
我的意思是，呃，不，不是，
它並不那麼奇特或戲劇性
1888
01:21:15,677 --> 01:21:17,512
正如你所希望的那樣，
但有，比如，你知道——
1889
01:21:17,545 --> 01:21:19,279
我們已經想通了
這些場景，
1890
01:21:19,313 --> 01:21:21,081
如果發生這種情況
我們要打電話給這些人
1891
01:21:21,115 --> 01:21:22,349
按此順序並執行此操作
1892
01:21:22,383 --> 01:21:24,017
和種類
這些決定如果—
1893
01:21:24,051 --> 01:21:26,387
我確實相信
當你有機會的時候
1894
01:21:26,420 --> 01:21:29,423
之前先思考一下
發生緊張的情況，
1895
01:21:29,456 --> 01:21:30,991
這幾乎總是
好主意。
1896
01:21:31,024 --> 01:21:32,226
把它寫下來很有幫助。
1897
01:21:32,259 --> 01:21:34,128
- 做好準備很有幫助。
-是的。
1898
01:21:34,962 --> 01:21:36,397
（嘆氣）你…
1899
01:21:36,430 --> 01:21:39,233
這是不可能的
讓我坐在你對面
1900
01:21:39,266 --> 01:21:41,669
並且-並要求你答應我
這樣會順利嗎？
1901
01:21:41,703 --> 01:21:43,504
那是不可能的。
1902
01:21:44,104 --> 01:21:46,173
沒有任何簡單的答案，
不幸的是。
1903
01:21:46,206 --> 01:21:48,442
呃，因為是這樣的
尖端技術，
1904
01:21:48,475 --> 01:21:50,244
嗯，還有
很多未知數。
1905
01:21:50,277 --> 01:21:52,714
我認為
那-那需要是，
1906
01:21:52,747 --> 01:21:55,416
嗯，呃，你知道，明白了
1907
01:21:55,449 --> 01:21:59,554
並且-因此需要
呃，呃，需要謹慎一點。
1908
01:21:59,587 --> 01:22:01,288
我每天醒來，你知道，
1909
01:22:01,321 --> 01:22:04,024
這是，這是
我想到的第一件事。
1910
01:22:04,057 --> 01:22:05,459
現在，看，我是人類，
1911
01:22:05,492 --> 01:22:08,596
而且，你知道，有-有
每一個決定都是完美的嗎？
1912
01:22:08,630 --> 01:22:12,166
我能說出我的動機嗎
總是很清楚嗎？
1913
01:22:12,199 --> 01:22:14,101
當然不是。
沒有人能這麼說。
1914
01:22:14,134 --> 01:22:17,004
比如說，那是──那是
只是不是，就像，你知道——
1915
01:22:17,037 --> 01:22:19,173
那是-那不是
人們如何工作。
1916
01:22:19,206 --> 01:22:21,408
科學史
往往是這樣的，
1917
01:22:21,442 --> 01:22:23,745
無論好壞，
如果有什麼可以做的話——
1918
01:22:23,778 --> 01:22:27,414
我們現在知道人工智慧是可能的
人類做到了。
1919
01:22:27,448 --> 01:22:30,217
所有這一切
曾經——將會發生。
1920
01:22:30,250 --> 01:22:32,587
這這列火車
不會停止。
1921
01:22:32,620 --> 01:22:34,722
你不能走到前面
火車並停下來。
1922
01:22:34,756 --> 01:22:36,724
你只會被壓扁。
1923
01:22:36,758 --> 01:22:39,226
奧特曼：
我的意思是，壓力很大。
1924
01:22:40,194 --> 01:22:41,462
你知道，有，比如，
1925
01:22:41,495 --> 01:22:43,197
很多事情
我們很多人都不知道。
1926
01:22:43,230 --> 01:22:47,000
我認為歷史
科學發現的意義在於
1927
01:22:47,034 --> 01:22:48,736
不知道之一
你不知道什麼
1928
01:22:48,770 --> 01:22:50,204
並邊走邊弄清楚。
1929
01:22:50,237 --> 01:22:53,575
呃，但是，是的，這是一個...
1930
01:22:53,608 --> 01:22:55,976
這是一種充滿壓力的生活方式。
1931
01:22:56,811 --> 01:22:59,246
丹尼爾：對。山姆，謝謝你
非常感謝這樣做。
1932
01:22:59,279 --> 01:23:01,081
-再說一遍，馬澤爾·托夫。
-謝謝。還有你。
1933
01:23:01,114 --> 01:23:03,383
太感謝了。謝謝，夥計們。
1934
01:23:03,417 --> 01:23:06,253
♪ ♪
1935
01:23:08,388 --> 01:23:09,990
（嘆氣）
1936
01:23:11,593 --> 01:23:13,528
（電劈啪聲）
1937
01:23:13,561 --> 01:23:16,363
-（雷霆裂痕）
-（嘶嘶聲、咕嚕聲）
1938
01:23:43,190 --> 01:23:45,392
-（錄影機點擊聲）
-（線路振鈴）
1939
01:23:48,328 --> 01:23:49,797
-（線路點擊）
-凱文·羅爾：你好。
1940
01:23:49,831 --> 01:23:51,131
丹尼爾：
嘿，爸爸，你好嗎？
1941
01:23:51,164 --> 01:23:52,165
凱文：
好。你好嗎？
1942
01:23:52,199 --> 01:23:53,500
你在工作嗎？你在忙什麼？
1943
01:23:53,535 --> 01:23:55,770
丹尼爾：
我正在製作這部人工智慧電影。
1944
01:23:55,803 --> 01:23:58,305
凱文：
進展如何？
1945
01:23:58,338 --> 01:24:00,708
丹尼爾：
你知道，這...這真的...
1946
01:24:00,742 --> 01:24:02,544
-喬安妮·羅爾：嗨，親愛的。
-丹尼爾：嗨，媽媽。
1947
01:24:02,577 --> 01:24:04,344
喬安妮：那是什麼
電影的前提？
1948
01:24:04,378 --> 01:24:07,180
這是一部紀錄片嗎？
Kev，別再用香料了。
1949
01:24:07,214 --> 01:24:08,816
已經太辣了。
1950
01:24:08,850 --> 01:24:10,718
我們現在正在做雞肉。
1951
01:24:10,752 --> 01:24:13,186
-這是一部紀錄片還是什麼......
-丹尼爾：這是關於--
1952
01:24:13,220 --> 01:24:14,421
這部電影講述的是
世界末日。
1953
01:24:14,454 --> 01:24:16,290
世界末日即將來臨，
1954
01:24:16,323 --> 01:24:18,158
我們正在製作一部電影
關於世界末日。
1955
01:24:18,191 --> 01:24:20,327
-喬安妮：真的嗎？
-丹尼爾：是的。
1956
01:24:20,360 --> 01:24:22,162
凱文：有點令人沮喪
電影，聽起來像。
1957
01:24:22,195 --> 01:24:23,698
喬安妮：
是的。
1958
01:24:23,731 --> 01:24:29,436
丹尼爾：我感覺很多，
就像是──這種非常嚴重的焦慮。
1959
01:24:29,469 --> 01:24:31,673
喬安妮：太可怕了，
但一定有－
1960
01:24:31,706 --> 01:24:35,810
你知道嗎，你們見面了嗎
一些超聰明的人
1961
01:24:35,843 --> 01:24:38,312
這會給你任何答案嗎？
1962
01:24:38,345 --> 01:24:40,113
丹尼爾：就是這樣
對此感到沮喪。
1963
01:24:40,147 --> 01:24:41,683
沒有人知道。
1964
01:24:41,716 --> 01:24:44,384
喬安妮：
我只能說
1965
01:24:44,418 --> 01:24:50,190
每一代都有過
像這樣可怕的東西。
1966
01:24:50,223 --> 01:24:52,760
凱文：當我出生
古巴飛彈危機。
1967
01:24:52,794 --> 01:24:54,596
（心跳平穩）
1968
01:24:54,629 --> 01:24:56,864
我只是害怕那裡
這將是一場核戰。
1969
01:24:56,898 --> 01:24:58,298
喬安妮：
是的，但我們不知道
1970
01:24:58,332 --> 01:24:59,534
他們要做什麼......
1971
01:24:59,567 --> 01:25:01,168
凱文：
世界並沒有終結。
1972
01:25:01,201 --> 01:25:02,202
大家都醒了
第二天早上，
1973
01:25:02,235 --> 01:25:03,871
我們仍在做我們的事情。
1974
01:25:03,905 --> 01:25:05,439
丹尼爾：
我很害怕，
1975
01:25:05,472 --> 01:25:07,407
尤其是
上下文，例如，
1976
01:25:07,441 --> 01:25:09,577
-你知道，寶寶和...
-（胎兒心跳搏動）
1977
01:25:09,611 --> 01:25:11,178
凱文：
這將是一個學習曲線。
1978
01:25:11,211 --> 01:25:12,479
喬安妮：
你會沒事的。
1979
01:25:12,513 --> 01:25:13,681
凱文：你不能，
你無法思考
1980
01:25:13,715 --> 01:25:14,849
這是你無法控制的，丹尼爾。
1981
01:25:14,882 --> 01:25:16,551
記住這一點。
1982
01:25:16,584 --> 01:25:18,251
丹尼爾（聲音沙啞）：
我真的，我真的感覺
1983
01:25:18,285 --> 01:25:19,587
對此感到緊張和害怕。
1984
01:25:19,621 --> 01:25:21,488
有這麼多
我無法控制。
1985
01:25:21,522 --> 01:25:24,358
凱文：別緊張。
你不能讓這種事影響到你。
1986
01:25:24,391 --> 01:25:26,794
你只能控制
你可以控制什麼，
1987
01:25:26,828 --> 01:25:28,395
這就是你所能做的。
1988
01:25:28,428 --> 01:25:31,231
你不能做更多的事情。
1989
01:25:31,264 --> 01:25:33,433
把它寫在你的書裡。
1990
01:25:35,870 --> 01:25:37,572
♪ ♪
1991
01:25:44,712 --> 01:25:47,447
（胎兒心跳搏動）
1992
01:25:47,481 --> 01:25:49,651
（嚎叫）
1993
01:25:49,684 --> 01:25:52,219
卡洛琳：
當你回頭看時，
1994
01:25:52,252 --> 01:25:54,922
世界總是有終結的。
1995
01:25:54,956 --> 01:25:57,357
當你展望未來時，
1996
01:25:57,391 --> 01:25:59,627
世界總是有終結的。
1997
01:25:59,661 --> 01:26:02,429
……著火了。
一棟房子已經著火了…
1998
01:26:02,462 --> 01:26:06,299
卡洛琳：但是世界
也總是開始。
1999
01:26:08,402 --> 01:26:10,437
丹尼爾：
你準備好了嗎？
2000
01:26:10,470 --> 01:26:12,674
你真的準備好了嗎？
2001
01:26:16,443 --> 01:26:18,278
丹尼爾：你想開車
還是你想讓我開車？
2002
01:26:18,311 --> 01:26:19,547
卡洛琳：
你開車。
2003
01:26:20,815 --> 01:26:22,382
——（女人說話含糊不清）
-卡洛琳：好的。
2004
01:26:22,416 --> 01:26:24,284
丹尼爾：
謝謝你，瑪麗亞。
2005
01:26:24,317 --> 01:26:26,654
女：這只是
感覺真的很抽筋。
2006
01:26:26,688 --> 01:26:28,355
-卡洛琳：好的。
-女士：你準備好了嗎？
2007
01:26:28,388 --> 01:26:29,691
-卡洛琳：是的。
-（模糊的喋喋不休）
2008
01:26:29,724 --> 01:26:30,958
（卡洛琳重重地嘆了口氣）
2009
01:26:30,992 --> 01:26:33,326
女人：你可能處於
醫療劇與所有......
2010
01:26:34,595 --> 01:26:36,597
♪ ♪
2011
01:26:44,706 --> 01:26:46,607
-（靜態爆裂聲）
-（模糊的喋喋不休）
2012
01:26:49,610 --> 01:26:51,746
女人：
...有些壓力。
2013
01:26:53,313 --> 01:26:54,749
放鬆一下。
2014
01:26:57,451 --> 01:26:59,821
-（嬰兒哭聲）
-（設備發出蜂鳴聲）
2015
01:27:02,623 --> 01:27:05,626
丹尼爾：
嗨，老兄。哦。
2016
01:27:05,660 --> 01:27:06,961
嗨，老兄。
2017
01:27:06,994 --> 01:27:09,362
♪ ♪
2018
01:27:31,652 --> 01:27:34,321
凱文：
這將會是一個全新的世界
2019
01:27:34,354 --> 01:27:35,723
為了你，丹尼爾。
2020
01:27:37,658 --> 01:27:40,762
我想你會的
一位了不起的父親。
2021
01:27:41,863 --> 01:27:44,899
喬安妮（輕笑）：
這是肯定的。
2022
01:27:44,932 --> 01:27:47,068
-（凱文哭泣）
-哦。
2023
01:27:47,101 --> 01:27:49,302
（繼續哭泣）
2024
01:27:49,336 --> 01:27:51,572
凱文：
你會做得很好。
2025
01:27:52,206 --> 01:27:53,541
喬安妮：
凱夫，你為什麼哭？
2026
01:27:53,574 --> 01:27:55,076
凱文：
我哭是因為...
2027
01:27:55,109 --> 01:27:57,545
我不知道。我只是不...
2028
01:27:57,578 --> 01:27:59,914
丹尼爾：爸爸，你會
也讓我哭。
2029
01:27:59,947 --> 01:28:01,549
你為什麼哭？
2030
01:28:03,651 --> 01:28:05,853
凱文：我只知道
你會成為一個了不起的爸爸。
2031
01:28:05,887 --> 01:28:07,655
丹尼爾（哭）：
我只會成為一個偉大的爸爸
2032
01:28:07,688 --> 01:28:09,957
因為我有一個偉大的父親。
2033
01:28:09,991 --> 01:28:12,894
凱文：我變得情緒化，
僅此而已。
2034
01:28:12,927 --> 01:28:14,327
喬安妮：
哇。
2035
01:28:14,361 --> 01:28:15,462
（影片中有趣的閒聊）
2036
01:28:15,495 --> 01:28:17,064
（透過視訊）：
男孩，哦，男孩！
2037
01:28:17,098 --> 01:28:18,633
天啊！
2038
01:28:19,267 --> 01:28:21,035
看看那些小臉蛋。
2039
01:28:21,068 --> 01:28:25,573
看看那些小臉蛋。
看看那些小臉蛋。
2040
01:28:25,606 --> 01:28:26,741
是的。
2041
01:28:26,774 --> 01:28:29,376
丹尼爾：
我知道如何結束這部電影。
2042
01:28:30,011 --> 01:28:31,712
嬰兒。
2043
01:28:32,379 --> 01:28:35,883
-電影的結尾是關於
寶貝們。 -（透過視訊）
2044
01:28:35,917 --> 01:28:37,618
他們對生命充滿肯定。
2045
01:28:37,652 --> 01:28:39,486
他們很累。
2046
01:28:39,520 --> 01:28:41,421
-（寶寶笑）
-他們很搞笑。
2047
01:28:41,454 --> 01:28:42,957
而且它們是值得的。
2048
01:28:42,990 --> 01:28:46,828
這部電影不是關於
科技的內部運作原理。
2049
01:28:46,861 --> 01:28:48,696
這不是關於
億萬富翁執行長。
2050
01:28:48,729 --> 01:28:50,665
這與地緣政治無關。
2051
01:28:50,698 --> 01:28:53,935
這與恐怖無關
未來或世界末日，
2052
01:28:53,968 --> 01:28:56,137
因為我的世界
才剛開始。
2053
01:28:56,170 --> 01:28:57,972
我正在建造一個嬰兒床。
2054
01:28:58,005 --> 01:28:59,907
就在這裡，就是現在。
2055
01:28:59,941 --> 01:29:01,008
（嬰兒咕咕聲）
2056
01:29:01,042 --> 01:29:02,743
人工智慧將改變一切
2057
01:29:02,777 --> 01:29:05,913
以太強大的方式
我們理解起來很複雜。
2058
01:29:05,947 --> 01:29:09,717
未來不是
由我們任何人決定。
2059
01:29:10,818 --> 01:29:13,921
但我可以決定的是
最好的丈夫
2060
01:29:13,955 --> 01:29:17,992
為了我的妻子和最好的
可能是我兒子的爸爸。
2061
01:29:18,025 --> 01:29:21,796
那麼我們的人工智慧未來是否
惡夢般的反烏托邦
2062
01:29:21,829 --> 01:29:24,098
或烏托邦
我們都夢想的，
2063
01:29:24,131 --> 01:29:27,134
我至少會知道
我已盡力而為
2064
01:29:27,168 --> 01:29:30,605
指導我的家人
透過這場人工智慧革命。
2065
01:29:30,638 --> 01:29:34,474
無論如何，
我們將一起面對它。
2066
01:29:34,508 --> 01:29:35,877
（振奮人心的音樂響起）
2067
01:29:35,910 --> 01:29:37,444
（音樂突然停止）
2068
01:29:37,477 --> 01:29:40,047
丹尼爾：
這只是我們的第一個想法。
2069
01:29:40,715 --> 01:29:43,084
這感覺如何？
你有這種感覺嗎？
2070
01:29:43,117 --> 01:29:45,720
等等，我——就像，這不是——
這是一個笑話。
2071
01:29:45,753 --> 01:29:48,388
其實不是
你將如何結束它。
2072
01:29:50,591 --> 01:29:53,160
我的意思是，這只是一個想法。好的？
2073
01:29:53,194 --> 01:29:54,996
不，丹尼爾。
2074
01:29:55,029 --> 01:29:56,631
……呃，非常非常愚蠢。
2075
01:29:56,664 --> 01:29:59,166
你剛剛花了，我沒有
知道，比如，幾年
2076
01:29:59,200 --> 01:30:03,104
我們一生致力於此，
與每位領先專家交談
2077
01:30:03,137 --> 01:30:05,539
在這個星球上關於這個主題，
2078
01:30:05,573 --> 01:30:08,175
你會結束它
2079
01:30:08,209 --> 01:30:11,444
與一些，比如，
昆巴亞廢話？
2080
01:30:11,478 --> 01:30:14,048
有一顆小行星
前往地球。
2081
01:30:14,081 --> 01:30:15,917
你做什麼工作？只是...
2082
01:30:15,950 --> 01:30:18,152
牽手
並希望一切順利？
2083
01:30:18,185 --> 01:30:19,854
絕對不是。
2084
01:30:19,887 --> 01:30:22,924
我們必須——它哈——
它必須是...
2085
01:30:22,957 --> 01:30:25,026
結局不得不...
2086
01:30:26,493 --> 01:30:28,529
卡洛琳：
好的，第一件事：
2087
01:30:28,562 --> 01:30:32,033
人工智慧就在這裡，
而且它會一直存在。
2088
01:30:32,066 --> 01:30:33,534
屎已經從馬裡出來了
2089
01:30:33,567 --> 01:30:36,436
但是馬
我會繼續拉屎。
2090
01:30:38,873 --> 01:30:39,807
（群眾歡呼）
2091
01:30:39,840 --> 01:30:41,943
你知道，基本的條件之一
歷史規律
2092
01:30:41,976 --> 01:30:44,578
沒什麼
真的有一個開始
2093
01:30:44,612 --> 01:30:46,580
一切都沒有結局。
2094
01:30:46,614 --> 01:30:48,049
它就這樣繼續下去。
2095
01:30:48,082 --> 01:30:50,918
人工智慧離我們還很遙遠
其全面發展。
2096
01:30:50,952 --> 01:30:53,087
卡洛琳：即使
目前的人工智慧泡沫破裂，
2097
01:30:53,120 --> 01:30:54,956
-人類永遠不會停止
-（噪音發生器吹響）
2098
01:30:54,989 --> 01:30:57,959
建造越來越多
強大的技術。
2099
01:30:57,992 --> 01:30:59,827
郝：
您可以選擇不使用人工智慧
2100
01:30:59,860 --> 01:31:02,730
或參與其中，但它是
無論如何都會影響到你。
2101
01:31:02,763 --> 01:31:04,231
丹尼爾：好的，太棒了。
所以我們完蛋了。
2102
01:31:04,265 --> 01:31:07,568
卡洛琳：不，我們不是
因為一件簡單的事。
2103
01:31:11,572 --> 01:31:13,574
這並非不可避免。
2104
01:31:13,607 --> 01:31:15,576
如果我們能看到它
明顯地在一起，
2105
01:31:15,609 --> 01:31:18,813
明顯的反應是
選擇不同的東西。
2106
01:31:18,846 --> 01:31:21,615
我們需要非常清楚
改變遊戲
2107
01:31:21,649 --> 01:31:23,517
從競賽到墊底
進入一場力爭上游的競賽。
2108
01:31:23,551 --> 01:31:27,855
LEAHY：我們需要解決的問題
解決方案並不是專門針對人工智慧的。
2109
01:31:27,888 --> 01:31:31,726
這是一般問題
我們如何建立一個社會
2110
01:31:31,759 --> 01:31:34,528
可以處理
強大的技術。
2111
01:31:34,562 --> 01:31:35,830
因為我們要得到
2112
01:31:35,863 --> 01:31:37,264
只會越來越強大
技術。
2113
01:31:37,298 --> 01:31:40,034
卡洛琳：
我們需要升級我們的社會，
2114
01:31:40,067 --> 01:31:41,902
第一步是
走在一起
2115
01:31:41,936 --> 01:31:43,838
-而且要求很高...
-全部：協調。
2116
01:31:43,871 --> 01:31:47,608
某種形式的國際
合作或協議
2117
01:31:47,641 --> 01:31:48,909
規範應該是什麼。
2118
01:31:48,943 --> 01:31:50,544
你知道，應該怎樣
他們被部署...
2119
01:31:50,578 --> 01:31:52,146
就像，真實的
國際外交
2120
01:31:52,179 --> 01:31:53,781
超級大國之中。
2121
01:31:53,814 --> 01:31:56,784
中國人也同樣擔心
身為美國人來說。
2122
01:31:56,817 --> 01:31:58,085
我覺得很難，
你知道，
2123
01:31:58,119 --> 01:31:59,920
在當前的
地緣政治氣候，
2124
01:31:59,954 --> 01:32:01,756
——但我認為這是必要的。
-拉斯金：當然。
2125
01:32:01,789 --> 01:32:05,059
以完全相同的方式
人類最後一次
2126
01:32:05,092 --> 01:32:09,163
開發了一項技術
這很危險...
2127
01:32:09,830 --> 01:32:12,900
……這需要一個完整的、
前所未有的轉變
2128
01:32:12,933 --> 01:32:15,169
我們世界的結構。
2129
01:32:15,770 --> 01:32:18,172
卡洛琳：
所以我們需要完成這個工作，
2130
01:32:18,205 --> 01:32:20,307
再次發生前所未有的轉變。
2131
01:32:21,008 --> 01:32:24,678
你知道，我們和人們交談
在這些人工智慧公司工作的人，
2132
01:32:24,712 --> 01:32:25,846
他們說他們想做
不同的東西，
2133
01:32:25,880 --> 01:32:27,048
但他們需要公眾壓力。
2134
01:32:27,081 --> 01:32:28,716
他們需要政府
做某事。
2135
01:32:28,749 --> 01:32:30,217
然後我們就去DC，
他們說，
2136
01:32:30,251 --> 01:32:32,153
「好吧，我們需要矽谷
做一些不同的事情。
2137
01:32:32,186 --> 01:32:34,021
他們是那些將要
把護欄拿出來。 」
2138
01:32:34,055 --> 01:32:36,057
所以每個人都指著
用手指指著別人，
2139
01:32:36,090 --> 01:32:39,927
他們同意的是
我們需要公眾壓力
2140
01:32:39,960 --> 01:32:41,796
為了別的事
發生。
2141
01:32:41,829 --> 01:32:43,164
這就是你
2142
01:32:43,197 --> 01:32:44,799
和所有的人
看這部電影就可以了。
2143
01:32:44,832 --> 01:32:45,833
卡洛琳：
我們需要抓住領導者
2144
01:32:45,866 --> 01:32:47,334
在我們的政府
2145
01:32:47,368 --> 01:32:48,969
和領導者
這些公司負有責任。
2146
01:32:49,003 --> 01:32:51,639
博瑞：
無論您在哪個國家/地區，
2147
01:32:51,672 --> 01:32:53,340
讓他們知道
你不開心
2148
01:32:53,374 --> 01:32:54,975
以目前的現狀。
2149
01:32:55,009 --> 01:32:57,678
所以，是的，說起來很無聊
打電話給你的國會議員。
2150
01:32:57,711 --> 01:32:59,880
我並不是說你應該
就這樣做，但是，就像，
2151
01:32:59,914 --> 01:33:01,215
我們確實必須這樣做。
2152
01:33:01,248 --> 01:33:02,883
就像，我們必須得到
政府參與其中。
2153
01:33:02,917 --> 01:33:04,185
丹尼爾：所以我們只是
打電話給他們說，
2154
01:33:04,218 --> 01:33:06,253
「嘿，停止大型科技公司
以免毀滅世界」？
2155
01:33:06,287 --> 01:33:09,223
卡洛琳：不，但是有
大量非常明顯的，
2156
01:33:09,256 --> 01:33:11,225
簡單的事情
我們可以要求很高。
2157
01:33:11,258 --> 01:33:12,960
我們需要透明度。
2158
01:33:12,993 --> 01:33:14,795
我們需要結束保密
存在於這些實驗室內，
2159
01:33:14,829 --> 01:33:17,031
因為他們正在建設
強大的技術，
2160
01:33:17,064 --> 01:33:19,066
公眾應該知道
發生了什麼事。
2161
01:33:19,100 --> 01:33:21,068
最終，
我們需要獨立，
2162
01:33:21,102 --> 01:33:23,637
客觀第三方
評估系統。
2163
01:33:23,671 --> 01:33:27,274
我們不能指望這些公司
給自己的作業評分。
2164
01:33:27,308 --> 01:33:31,378
如果-如果一家公司使用人工智慧並且-並且
有AI與你互動，
2165
01:33:31,412 --> 01:33:35,249
它應該透露您是
與人工智慧系統互動。
2166
01:33:35,282 --> 01:33:39,019
是的。而且-而且我們還需要
一個使公司
2167
01:33:39,053 --> 01:33:42,156
並承擔法律責任
他們生產的人工智慧系統。
2168
01:33:42,189 --> 01:33:46,293
我們需要確保有
是測試和安全標準
2169
01:33:46,327 --> 01:33:48,662
適用於每個人。
2170
01:33:48,696 --> 01:33:50,097
我們需要一些基本規則，
2171
01:33:50,131 --> 01:33:51,999
我們需要不斷適應
那些規則
2172
01:33:52,032 --> 01:33:55,002
以這樣的速度
技術不斷發展。
2173
01:33:55,035 --> 01:33:57,738
LEAHY：目前有
更多監理
2174
01:33:57,771 --> 01:33:59,840
關於賣三明治
向大眾
2175
01:33:59,874 --> 01:34:03,410
比建築物上的
潛在的世界末日 AGI。
2176
01:34:03,444 --> 01:34:05,279
卡洛琳：
最後一件事是
2177
01:34:05,312 --> 01:34:07,214
提升自己。
2178
01:34:07,915 --> 01:34:10,284
這不是工作
例如安全團隊
2179
01:34:10,317 --> 01:34:12,153
任何特定的實驗室或執行長。
2180
01:34:12,186 --> 01:34:13,854
所以，就像，這是
每個人的工作。
2181
01:34:13,888 --> 01:34:15,156
不要，就像，離開它
由人工智慧專家決定。
2182
01:34:15,189 --> 01:34:17,424
就像，（嘟嘟）那樣。
就像，這一刻
2183
01:34:17,458 --> 01:34:19,460
我們正在轉型
來自，像，
2184
01:34:19,493 --> 01:34:22,163
主要是人類的認知能力
比如說人工智慧的認知能力，
2185
01:34:22,196 --> 01:34:23,197
並且影響著每個人，
2186
01:34:23,230 --> 01:34:25,166
我希望人們成為
參加那次談話。
2187
01:34:25,199 --> 01:34:27,234
我想說，如果你認為
人工智慧會殺死我們所有人，
2188
01:34:27,268 --> 01:34:28,969
你應該在工作
在人工智慧研究領域
2189
01:34:29,003 --> 01:34:30,804
以確保它不會
因為你確實有
2190
01:34:30,838 --> 01:34:32,773
大量的代理商。
2191
01:34:32,806 --> 01:34:34,208
卡洛琳：
無論你是誰
2192
01:34:34,241 --> 01:34:36,177
你是專家
在您自己的行業中，
2193
01:34:36,210 --> 01:34:39,413
在自己的學校，
在你自己的家庭中，
2194
01:34:39,446 --> 01:34:43,050
這取決於你
人工智能如何应用在您的生活中。
2195
01:34:43,083 --> 01:34:45,319
無論你想加入
你的學校董事會
2196
01:34:45,352 --> 01:34:48,389
或者-或者你是否想问
你的雇主
2197
01:34:48,422 --> 01:34:49,924
他們如何使用
人工智慧技術，
2198
01:34:49,957 --> 01:34:52,259
就像，我們所有人都可以完成這項工作。
2199
01:34:52,293 --> 01:34:56,330
已經有很多工會了
非常有效，例如，
2200
01:34:56,363 --> 01:34:59,333
确定他们想要的方式
與這些系統互動。
2201
01:34:59,366 --> 01:35:02,303
-护士工会、教师工会。
-（含糊不清的吟诵）
2202
01:35:02,937 --> 01:35:05,039
DANIELA AMODEI：我會喜歡
如果父母無所不在
2203
01:35:05,072 --> 01:35:06,407
去了AI公司
並說，
2204
01:35:06,440 --> 01:35:08,342
「你怎樣才能變得更好
就這個？ 」包括我們。
2205
01:35:08,375 --> 01:35:11,445
所以，我創立了 Encode Justice
當我15歲的時候。
2206
01:35:11,478 --> 01:35:15,082
我們是世界第一
和最大的年輕人軍隊
2207
01:35:15,115 --> 01:35:18,452
為以人為本而奮鬥
人工智慧。
2208
01:35:18,485 --> 01:35:21,288
你是誰並不重要
即使是最小的行動也會有所幫助，
2209
01:35:21,322 --> 01:35:24,291
甚至對話開始
真的非常非常有價值。
2210
01:35:24,325 --> 01:35:26,293
丹尼爾：
所以我的工作可能是，
2211
01:35:26,327 --> 01:35:28,295
告訴巴比莉拉這件事
晚餐時？
2212
01:35:28,329 --> 01:35:30,364
卡洛琳：老實說，是的，
這就是其中的一部分。
2213
01:35:30,397 --> 01:35:32,099
我們要做的
2214
01:35:32,132 --> 01:35:34,969
很多事情
我們還沒想到。
2215
01:35:35,002 --> 01:35:36,503
人們會看
我們概述的任何內容
2216
01:35:36,538 --> 01:35:37,838
並說：“這還不夠。”
2217
01:35:37,871 --> 01:35:39,473
重要的是力量
2218
01:35:39,507 --> 01:35:41,242
正在工作的
尋求解決方案
2219
01:35:41,275 --> 01:35:44,979
開始超過力量
正在研究解決方案。
2220
01:35:45,012 --> 01:35:46,947
讓世界變得更美好
一直很難。
2221
01:35:46,981 --> 01:35:48,249
這從來都不容易。
2222
01:35:48,282 --> 01:35:50,317
例如，曾經有過
許多糟糕的事情
2223
01:35:50,351 --> 01:35:52,286
歷史上發生過的事，
我們已經——
2224
01:35:52,319 --> 01:35:54,121
就像，人們曾經有過
為了解決這個問題，
2225
01:35:54,154 --> 01:35:57,191
然後他們站了起來
並改變了它。
2226
01:35:57,224 --> 01:36:00,894
有一個瘋狂的數字
我們面臨的挑戰，
2227
01:36:00,928 --> 01:36:04,398
但如果我們能超越他們
2228
01:36:04,431 --> 01:36:08,536
我們可以開啟更遠的未來
我們最瘋狂的想像。
2229
01:36:08,570 --> 01:36:10,804
卡洛琳：
我們必須團結起來
2230
01:36:10,838 --> 01:36:14,875
並找到之間的路徑
承諾與危險。
2231
01:36:14,908 --> 01:36:17,177
我們不能悲觀
或樂觀主義者。
2232
01:36:17,778 --> 01:36:20,180
我們必須成為新事物。
2233
01:36:22,182 --> 01:36:25,185
我的一個朋友打電話給我
一個末日樂觀主義者
2234
01:36:25,219 --> 01:36:26,186
“末日樂觀主義者”？
2235
01:36:26,220 --> 01:36:28,889
我想這可能是
我最喜歡的新詞。
2236
01:36:28,922 --> 01:36:30,291
-（笑）-男人：可能是
這部電影的名稱。
2237
01:36:30,324 --> 01:36:31,892
-可能是名字
這部電影的。 -（笑聲）
2238
01:36:31,925 --> 01:36:34,862
-「末日樂觀主義者」。
-「末日樂觀主義者」。
2239
01:36:34,895 --> 01:36:36,430
是的。
2240
01:36:36,463 --> 01:36:37,898
我不相信厄運。
2241
01:36:37,931 --> 01:36:39,366
我相信生命的精神，
2242
01:36:39,400 --> 01:36:43,137
呃，我相信生活是
關於行動的能力。
2243
01:36:43,170 --> 01:36:44,905
-（人群唱歌）
-聯繫的能力，
2244
01:36:44,938 --> 01:36:47,141
感受的能力。
2245
01:36:49,376 --> 01:36:51,345
-（模糊的任務喋喋不休）
-（歡呼）
2246
01:36:51,378 --> 01:36:54,315
我們必須加倍努力
越來越多
2247
01:36:54,348 --> 01:36:57,384
關於這些能力
我們身為人類所擁有的
2248
01:36:57,418 --> 01:36:59,853
機器人系統
永遠不會。
2249
01:37:00,487 --> 01:37:04,559
現在正是時候
做出這些決定
2250
01:37:04,592 --> 01:37:08,062
如何引導和支持
而不是分裂我們。
2251
01:37:08,095 --> 01:37:10,898
丹尼爾：聽起來有點像
撫養一個孩子。
2252
01:37:10,931 --> 01:37:12,634
就是這樣。是的。
2253
01:37:12,667 --> 01:37:15,035
CAROLINE：人工智慧可能
更多原始情報
2254
01:37:15,069 --> 01:37:17,471
-比我們小小的人類大腦，
-（寶寶笑）
2255
01:37:17,504 --> 01:37:20,608
但我們還有更多
不只是我們的智力。
2256
01:37:21,208 --> 01:37:25,379
情報是-是
解決問題的能力。
2257
01:37:25,412 --> 01:37:29,116
智慧是認識的能力
要解決哪些問題。
2258
01:37:31,519 --> 01:37:34,188
（船員們模糊的交談聲）
2259
01:37:34,221 --> 01:37:35,489
丹尼爾：
它可以放在你的冰箱上。
2260
01:37:35,523 --> 01:37:36,658
（笑）
2261
01:37:36,691 --> 01:37:38,626
尤德科斯基：
所以，不要放棄。
2262
01:37:38,660 --> 01:37:40,227
人類已經做到了
2263
01:37:40,260 --> 01:37:43,030
比這更困難的事情
在它的歷史中。
2264
01:37:43,897 --> 01:37:46,967
只是很難說服
他們應該的人。
2265
01:37:47,000 --> 01:37:49,336
♪ ♪
2266
01:37:52,072 --> 01:37:53,273
（聲音爆裂聲）
2267
01:37:55,309 --> 01:37:57,277
丹尼爾：所以，當我開始
製作這部電影，
2268
01:37:57,311 --> 01:37:59,012
我會說我是，
2269
01:37:59,046 --> 01:38:01,348
基本上就是一個憤世嫉俗的混蛋
關於這整件事。
2270
01:38:01,382 --> 01:38:03,450
整個課程
製作電影
2271
01:38:03,484 --> 01:38:05,152
我終於明白了
那個，就像，
2272
01:38:05,185 --> 01:38:06,987
這是唯一的事
我們不能。
2273
01:38:07,756 --> 01:38:09,990
...或其他任何內容
你想討論嗎？
2274
01:38:10,023 --> 01:38:11,992
不，我認為我們涵蓋了很多。
2275
01:38:12,025 --> 01:38:13,561
-是的。 （笑聲）
- 男人：非常感謝。
2276
01:38:13,595 --> 01:38:15,295
謝謝。
2277
01:38:15,929 --> 01:38:17,498
丹尼爾：
這是一個更大的問題
2278
01:38:17,532 --> 01:38:19,400
比任何人都多。
2279
01:38:19,433 --> 01:38:22,136
這將改變世界
我們不理解的方式。
2280
01:38:22,169 --> 01:38:24,037
這都是真的。
2281
01:38:24,071 --> 01:38:26,106
-（笑）：好的。
-（含糊不清的喋喋不休）
2282
01:38:26,140 --> 01:38:28,208
丹尼爾：
但我們確實有代理權
2283
01:38:28,242 --> 01:38:30,411
這就是我們對此所做的事情。
2284
01:38:30,444 --> 01:38:33,113
隨著前沿人工智慧的發展
能力呈指數級增長...
2285
01:38:33,147 --> 01:38:34,682
丹尼爾：
和現實
2286
01:38:34,716 --> 01:38:37,151
如果我們決定的話
沒有希望
2287
01:38:37,184 --> 01:38:39,420
那麼就沒有希望了。
2288
01:38:39,453 --> 01:38:41,221
....減輕壓力
在地球上...
2289
01:38:41,255 --> 01:38:43,257
丹尼爾：
但如果你決定
2290
01:38:43,290 --> 01:38:46,293
你想嘗試...
2291
01:38:47,194 --> 01:38:48,563
...那你試試看。
2292
01:38:48,596 --> 01:38:50,931
這很難。
2293
01:38:51,733 --> 01:38:53,500
但是你知道嗎？
2294
01:38:53,535 --> 01:38:57,137
大事似乎不可能
在它們真正發生之前。
2295
01:38:58,673 --> 01:39:01,676
但是當它們最終發生時，
2296
01:39:01,709 --> 01:39:05,713
這是因為數百萬人
採取了數百萬次操作
2297
01:39:05,747 --> 01:39:08,182
讓它們發生。
2298
01:39:08,215 --> 01:39:10,752
所以...
2299
01:39:10,785 --> 01:39:13,220
我們必須嘗試。
2300
01:39:14,087 --> 01:39:15,523
（重重地嘆了口氣）
2301
01:39:21,663 --> 01:39:24,298
利害關係太大。
2302
01:39:24,331 --> 01:39:26,366
♪ ♪
2303
01:39:33,040 --> 01:39:35,375
（膠卷劈啪聲）
2304
01:39:37,545 --> 01:39:41,749
看看令人難以置信的變化
我們經歷過並倖存下來
2305
01:39:41,783 --> 01:39:43,317
從石器時代開始，
2306
01:39:43,350 --> 01:39:46,487
還有更大的變化
還沒到來。
2307
01:39:46,521 --> 01:39:50,090
（“因為嘗試而失敗”
由 Son Lux 演奏）
2308
01:40:19,086 --> 01:40:21,288
♪ ♪
2309
01:40:48,181 --> 01:40:50,718
♪ 我們現在要做什麼？ ♪
2310
01:40:50,752 --> 01:40:53,755
♪ 我們因嘗試而失敗 ♪
2311
01:40:53,788 --> 01:40:55,690
♪ 我們失去了它 ♪
2312
01:40:55,723 --> 01:40:57,457
♪ 去試試 ♪
2313
01:41:00,193 --> 01:41:02,764
♪ 我們現在要做什麼？ ♪
2314
01:41:02,797 --> 01:41:05,733
♪ 我們因嘗試而失敗 ♪
2315
01:41:05,767 --> 01:41:07,602
♪ 我們失去了它 ♪
2316
01:41:07,635 --> 01:41:09,469
♪ 去試試 ♪
2317
01:41:12,205 --> 01:41:14,709
♪ 現在我們能說什麼？ ♪
2318
01:41:14,742 --> 01:41:17,745
♪ 我們的嘴只是在說謊 ♪
2319
01:41:17,779 --> 01:41:19,212
♪ 我們的嘴 ♪
2320
01:41:19,246 --> 01:41:21,448
♪ 只是說謊 ♪
2321
01:41:25,720 --> 01:41:28,255
♪ 現在我們能說什麼？ ♪
2322
01:41:28,288 --> 01:41:31,358
♪ 我們的嘴只是在說謊 ♪
2323
01:41:31,391 --> 01:41:32,760
♪ 我們的嘴 ♪
2324
01:41:32,794 --> 01:41:34,762
♪ 只是說謊 ♪
2325
01:41:34,796 --> 01:41:37,197
♪ ♪
2326
01:42:01,522 --> 01:42:04,291
♪ 屈服並退出 ♪
2327
01:42:04,324 --> 01:42:07,294
♪ 我們在臨終中崛起 ♪
2328
01:42:07,327 --> 01:42:08,763
♪ 我們崛起 ♪
2329
01:42:08,796 --> 01:42:11,164
♪ 臨終時 ♪
2330
01:42:13,568 --> 01:42:16,336
♪ 屈服並退出 ♪
2331
01:42:16,370 --> 01:42:19,272
♪ 我們在臨終中崛起 ♪
2332
01:42:19,306 --> 01:42:20,775
♪ 我們崛起 ♪
2333
01:42:20,808 --> 01:42:23,176
♪ 臨終時 ♪
2334
01:42:25,546 --> 01:42:28,248
♪ 屈服並退出 ♪
2335
01:42:28,281 --> 01:42:31,251
♪ 我們在臨終中崛起 ♪
2336
01:42:31,284 --> 01:42:32,787
♪ 我們崛起 ♪
2337
01:42:32,820 --> 01:42:35,155
♪ 臨終時 ♪
2338
01:42:37,558 --> 01:42:40,293
♪ 屈服並退出 ♪
2339
01:42:40,327 --> 01:42:43,263
♪ 我們在臨終中崛起 ♪
2340
01:42:43,296 --> 01:42:44,532
♪ 我們 ♪
2341
01:42:44,565 --> 01:42:46,601
♪ ♪
2342
01:43:16,263 --> 01:43:18,465
♪ ♪
2343
01:43:23,336 --> 01:43:25,840
♪ 哦，哦，哦，哦，哦 ♪
2344
01:43:25,873 --> 01:43:27,675
♪ 哦，哦，哦，哦 ♪
2345
01:43:27,709 --> 01:43:28,943
♪ 哦，哦 ♪
2346
01:43:28,976 --> 01:43:31,913
♪ 哦，哦，哦，哦，哦，哦 ♪
2347
01:43:31,946 --> 01:43:33,648
♪ 哦，哦，哦，哦 ♪
2348
01:43:33,681 --> 01:43:34,916
♪ 哦，哦 ♪
2349
01:43:34,949 --> 01:43:37,552
♪ 哦，哦，哦，哦，哦，哦 ♪
2350
01:43:37,585 --> 01:43:40,287
♪ 我們現在要做什麼？ ♪
2351
01:43:40,320 --> 01:43:43,290
♪ 我們因嘗試而失敗 ♪
2352
01:43:43,323 --> 01:43:45,026
♪ 我們失去了它 ♪
2353
01:43:45,059 --> 01:43:46,861
♪ 去試試 ♪
2354
01:43:46,894 --> 01:43:49,530
♪ 哦，哦，哦，哦，哦，哦 ♪
2355
01:43:49,564 --> 01:43:52,332
♪ 我們現在要做什麼？ ♪
2356
01:43:52,365 --> 01:43:55,335
♪ 我們因嘗試而失敗 ♪
2357
01:43:55,368 --> 01:43:57,038
♪ 我們失去了它 ♪
2358
01:43:57,071 --> 01:43:58,940
♪ 去嘗試。 ♪
2359
01:43:58,973 --> 01:44:01,374
♪ ♪
2360
01:44:23,798 --> 01:44:24,865
（歌曲結束）